Az Open AI megoldotta a modern matematika egyik legfontosabb problémáját? Érlelődik az Open AI – Anthropic beef avagy a bál állva jó.
A szereplők:
1. A Navier-Stokes-féle parciális differenciálegyenletrendszer, ami az összenyomhatatlan folyadékok dinamikáját leíró legfontosabb egyenlet. A hét Millenium Prize probléma egyike az, hogy tetszőleges sima (akárhányszor differenciálható) kezdeti értékfeltétel és sima külső erő mellett ennek a nemlineáris parciális differenciáegyenletrendszernek van végtelen sok ideig tartó megoldása. Ezt egy olyan példa cáfolná meg, ami véges időn belül „felrobban”.
2. Tristan Buckmaster ausztrál matematikus a Navier-Stokes elmélet világhírű kutatója.
3. Levent Alpöge amerikai matematikus, az Anthropic (Claude, Fable-5) kutatója, ő oldotta meg a kis barátaival a Jacobi-sejtést három és magasabb dimenzióban, illetve a Hopf-sejtést a hatdimenziós gömbön létező komplex struktúráról, amiről én is írtam.
4. Sébastian Bubeck amerikai-francia számítógép-tudós, az Open AI Levent Alpögéje, az ő kis barátai csinálták meg a nemszofikus csoportot (erről egy posztot és vagy öt cikket írtam, jó, azok mind szofikusokról szóltak, akkor még egyszerű volt az élet) és az ellenpéldát Alain Connes rigiditási sejtésére.
……………
Néhény napja elterjedt, hogy megoldották a Navier-Stokes-t. Terence Tao közölte, hogy szerinte az ő egyik nyilatkozatát értették félre, és nincs megoldva a Navier-Stokes. Aztán tegnap Alpöge és Buckmaster bejelentették, hogy három másik rokon egyenletnél igazolták a „blow-up”-ot, az egyenlet felrobban. Tao erre azt mondta, hogy talán közel kerültek a Navier-Stokes-hoz. Itt meg kell említeni, hogy Buckmasterék nagyon fair módon Cordóba és Martinez-Zoróa eredményeinek továbbfejlesztéseként interpretálták a saját eredményüket (itt több cikk is van, és az egyiknél van egy Coiculescu nevű társszerző, ő egy nagyon fiatal Navier-Stokes-os ember).
Eddig a történet nem kerül be a lapokba, mert sokkal fontosabb, hogy mit mondott Erdődy-Spinacsek Bubu országgyűlési képviselőhelyettes a miniszterelnök állítólagos műfogsoráról. Valójában óriási áttörésről van szó, egészen páratlan matematikai eredményről.
Egészen páratlan lenne, ha….
..ha Bubeck nem informálja Buckmastert arról, hogy, hello, mi viszont tényleg megcsináltuk a Navier-Stokes-t. Beveszünk társszerzőnek (elvileg ezért jár az egymillió dollár, ami azért kicsit vicces), de kihagyjuk Alpögét. Buckmaster beintett. Szerinte itt valami nem OK, de nem akar senkit vádolni.
Ezt azonban sokan mások megtették helyette, akik azt gondolják, hogy az Open AI esetleg belekukucskált Buckmasterék munkájába, talán a Codexen keresztül.
Adott ponton Bubeck ezt írta ki az X-re:
A series of false and inflammatory allegations against me are currently circulating on social channels. To clarify, I came into the discussion following academic norms, and I’m disappointed that it has come to this. Anyone who knows me knows that academic standards are of the highest importance to me. Will have more to say tomorrow.
Buckmaster azt elég határozottan állította, hogy Bubeckék története kissé finomodott a kommunikációk során.
Nagyon úgy néz ki, hogy az Open AI holnap tesz bejelentést. Az Anthropic éppen IPO-ra (initial public offering, első nyilvános részvénykibocsátás) készül és itt tényleg ezermilliárd dollár feletti összegről beszélünk. Az egyáltalán nem mindegy, hogy kinek hosszabb a ….. transzformere, neki vagy az Open AI-nak. De szerintem a (juszt is névelővel írom) Miniszterelnök Úr éppen visszaszólt Erdődy-Spinacsek Bubunak, akinek a mamája állítólag ribizlit lopott az sarki ABC-ből és talán nem is véletlenül tartózkodott a sarkon, hát ez valóban sokkal fontosabb dolog.
<div class='sharedaddy sd-block sd-like jetpack-likes-widget-wrapper jetpack-likes-widget-unloaded' id='like-post-wrapper-192691293-16532990-6ae5f1b2eeea6' data-src='https://widgets.wp.com/likes/?ver=14.1#blog_id=192691293&post_id=16532990&origin=www.orulunkvincent.hu&obj_id=192691293-16532990-6ae5f1b2eeea6&n=1' data-name='like-post-frame-192691293-16532990-6ae5f1b2eeea6' data-title='Like or Reblog'><h3 class="sd-title">Like this:</h3><div class='likes-widget-placeholder post-likes-widget-placeholder' style='height: 55px;'><span class='button'><span>Like</span></span> <span class="loading">Loading...</span></div><span class='sd-text-color'></span><a class='sd-link-color'></a></div>
Hiv.: @Késes Szent Alia:
Ahogy én rakom össze:
(1) A hízelgés a legerősebb fegyver Trump befolyásolására és „ingyen” van.
(2) Van stratégiai érdekazonosság Huang és Trump között: gyorsítani, ahogy csak lehet. (AI-háborúkat megnyerni.)
(3) Ellentmondási potenciál a Kínával szembeni stratégiában. Húzd-meg-ereszd-el módokon, hogyan lehetne kimaxolni Kína szivatását.
(4) Nvidia saját pénzügyi jelentése dokumentálja, hogy amerikai kormányzati döntések milliárdos károkat és teljes piacvesztést tudnak okozni. Huang extrém módon motívált Trump maga mellett tartásában, ezen a téren is.
Kerestem a legjobb kompressziót (legkevesebb betűvel, legtöbbet kifejezni) erre az egész AI-lassítási mizériára , amitől Amodei agya lángra lobbant (ismét). És Charlie Munger univerzalizált „lollapalooza”-jában leltem meg egyelőre: „több kezelhető kockázat egymást erősítve kezelhetetlen rendszerszintű kockázattá válik”.
.
Utóirat: az AI Hírek csoportban is lángralobbant a téma. Egy csajszi ~8200 karakteres esszét írt (AI-támogatással), már 65 komment van rá (nem egy köztük végtelenül silány, ráadásul nagyon gyenge eredővel – imho).
@tahonoli: nekem ez másnak tűnt. jensen huang arról beszélt épp, mielőtt tramp beleböffent, hogy a lassításról való picsogás helyett a gyártók tartsák be a minden más szereplőre vonatkozó szabályokat. magyarán, úgy gyártsanak, és akkor adjanak ki valamit, amikor az korrektül és biztonságosan gyártható és működik. a tramp büfi ezt valamelyest támogatta, ha ő maga nem is értette, hogy mit és hogyan, így járt neki az a barátságos barack a sárga paróka közepibe.
a gyártók valóban eléggé indokolhatatlan kivételezettséget élveznek. pl. ahogy az openai berongyolt a huggingface-be (ez igen részletesen dokumentált eset), az egy prima specie cyber bűncselekmény volt (ha nagyon jóindulatú vagyok, gondatlanságból elkövetett). ha ezt emberfia csinálja, elég sok év tömlöc jár érte. az a nem is egy, hanem számos rossz döntés, technológiai slamposság, amely az eredményhez elvezetett, elvileg mind elérhető és megnevezhető felelősöket jelent az openai stábjában.
ehelyett inkább elszabadult ai csordáról delirálnak, és tördelik a kezüket. a művelt közönség pedig velük tördeli, és sajnálkozik nagyon. (az már más kérdés, hogy létezik/létezhet-e egyáltalán olyan infrastruktúra amelyik ne tartalmazna kihasználható réseket – a manapsági, tulajdonképpen igen sloppy infrastruktúra menedzsment mellett aligha. ez azonban olyan védekezés lenne, mintha egy víruslabor azt mondaná, hogy a mai civilizációs/technikai szinten nem nagyon lehet a kísérleti vírusok kiszabadulását elkerülni. és dolgozna tovább nyugodtan, bár erősen csóválná a fejét.)
Hiv.: @incze:
Én egyelőre tartom a véleményemet.
* Trumpból az a maximum, amit kinézek, annak kapcsán, hogy „érti a témát”, hogy tudja vannak a kezében aduk, hogy fingassa a tech bro-kat, akik egymást is rühellik a pletykák szerint. Az nVidia tökeit is fogja, rendesen.
* „úgy gyártsanak, és akkor adjanak ki valamit, amikor az korrektül és biztonságosan gyártható és működik” – na az az ami szépen hangzik, de a gyakorlat teljesen mást mutat. Egyelőre lehetetlen a dolog, és úszunk az árral. Dario Amodei meg becsavarodik a parájába, imho.
Már Vakmajom is evvel jön, lassítás+attention-farming vs. IPO. Legtömörebb egyenletemet továbbra is tartom: Incumbent-friendly ≠ valuation-positive ≠ shareholder-motivated.
.====
.VAKMAJOM:
Én: – A cégek kijelentése, hogy lassítani kell az AI fejlesztését, mert veszélyes, inkább növeli vagy csökkenti ezen cégek árazását, értékelését?
AI: – A piac reakciója alapján a kijelentések nettó hatása a vállalat méretétől és piaci pozíciójától függ, de a piacvezetőknél többnyire növeli vagy védi az értékeltséget. Értékelést növelő tényezők. 1. Magasabb belépési korlátok (regulatory capture): a lassításra és szigorúbb biztonsági auditokra vonatkozó felhívások olyan jogi és megfelelési költségeket teremtenek, amelyeket csak a tőkeerős óriások tudnak finanszírozni. Ez megvédi őket a kisebb startupoktól és a nyílt forráskódú (open-source) versenytársaktól. 2. Kockázati prémium csökkenése: a felelős, szabályozott működés kommunikációja mérsékli a jogi, reputációs és etikai kockázatokat, ami a konzervatív intézményi befektetők szemében alacsonyabb kockázati felárat és magasabb értékelési szorzókat eredményez. Értékelést csökkentő tényezők. 1. A monetizáció elhúzódása: a biztonsági tesztek miatti termékkésések lassítják a közvetlen bevételnövekedést, ami a diszkontált cash-flow (DCF) modellek alapján csökkenti a cégek elméleti jelenértékét. 2. Tőkekiadások (CapEx) megtérülése: a chip- és adatközpont-infrastruktúrába fektetett tízmilliárdos összegek megtérülési ideje kitolódik.
Én: – Tehát összességében az AI veszélyességére való utalások a meglévő részvényesek érdekeit szolgálják?
AI: – Igen, a piacvezető cégek meglévő részvényeseinek szempontjából stratégiailag túlnyomórészt az érdekeiket szolgálják, még akkor is, ha a retorika a biztonságról és az etikai felelősségről szól.
Hiv.: @incze:
* Friss adalék, OpenAI-cikk. Ki mit olvas ki belőle? Én azt, hogy Altman egy szinttel mélyebben csatlakozik Amodeihez: „nem tartjuk elég megoldottnak alignmentet és monitoringot ahhoz, hogy még sokáig maximum speed mellett skálázzunk.”
* Miközben ne felejtsük az Anthropic 2026 őszén akar tőzsdére menni, $2trilliont megcélozva, az OpenAI is idén akart, de jelenleg úgy néz ki, 2027 lesz az, perpillanat $1,2trilliont megcélozva.
* És igen az teljesen jogos, hogy az OpenAI „belerongyolása” a HF-be az bűncselekmény volt (max azon vitatkozva milyen jogi besorolással). De ugye Trump-érában vagyunk…
.
Our framework for reporting model misalignment
https://openai.com/index/model-misalignment-reporting-framework/