Az AI tegnap okosabb lett, mint az emberek jelentős része, de még mindig nem nagyon-nagyon okos.
Az OpenAI tegnap kihozta a Strawberry-t GPTo1 néven. Megkérdeztem tőle, hogy egy uniquely ergodic folytonos dinamikus rendszer ahol a mérték tartója a teljes tér, miért minimális. Ezt megcsinálta. From scratch. Ettől eléggé megijedtem.
Aztán megkértem, hogy mutasson egy nem-minimális dinamikus rendszert, ahol a mérték tartója nem a teljes tér, de azért uniquely ergodic. Ez viszont nagyon könnyű, hiszen, ha a [0,1] intervallumon veszem azt a transzformációt, ami elosztja a számokat kettővel, akkor nyilván egyetlen invariáns mérték van, ami a nullára van koncentrálva.
Erre adott egy rossz példát, amin több invariáns mérték van és ez elég világos. Mondtam mi a gond. Erre adott egy új példát, ami nem volt folytonos. Hosszabb gondolkozás után. Elmondtam, hogy ebből miért nem jöhet ki. Na erre felszívta magát és lenyomott egy akkora bullshitet, hogy csak néztem. Az egyik mondata az volt, hogy „mivel a Cantor -halmaz összefüggő”. Ha valami nem igaz az az, hogy a Cantor-halmaz összefüggő.
Minden arra mutat, hogy Strawberry elég okos, sok mindent meg fog változtatni, de nincs közel az AGI-hoz. Néztem az NVIDIA árfolyamát, nem nagyon változik. Szóval most történt valami, nem is akármi, de egyelőre nincs vége a világnak.
P.S azt írják, hogy fizikából Ph.D szinten van. fogalmam sincs, hogy mennyire igaz. ijesztő, tényleg ijesztő.
UPDATE: egy review.
<div class='sharedaddy sd-block sd-like jetpack-likes-widget-wrapper jetpack-likes-widget-unloaded' id='like-post-wrapper-192691293-16531733-69375a6b49826' data-src='https://widgets.wp.com/likes/?ver=14.1#blog_id=192691293&post_id=16531733&origin=www.orulunkvincent.hu&obj_id=192691293-16531733-69375a6b49826&n=1' data-name='like-post-frame-192691293-16531733-69375a6b49826' data-title='Like or Reblog'><h3 class="sd-title">Like this:</h3><div class='likes-widget-placeholder post-likes-widget-placeholder' style='height: 55px;'><span class='button'><span>Like</span></span> <span class="loading">Loading...</span></div><span class='sd-text-color'></span><a class='sd-link-color'></a></div>
@tahonoli: én nem tudom mi lesz az AI-val, de azt hiszem, hogy a GPT-4o benchmarkot aránylag hamar túl fogják lépni, és legalább addig eljutnak, hogy a nem nagyon profi tudományos szinten (ami bőven Q1 számos területen, matematikában szerencsére nem) fognak írni. egy ilyen szöveget megírni… kifejezetten jó szöveg megírására is képesek lesznek. lehet, hogy az még az AI-hype végét fogja jelenteni. de a tudományos bullshitting teljesen új szintre emelését is. 🙁
Hiv.: @jotunder:
Abszolút egyetértek. Az igazán durva, hogy sok területen sokan tényleg megütik (majd) a Q1 szintjét, még a belátható jövőn belül is. Ha véletlenül Orbán Balázst holnap el is kaszálnák, második nekifutásra az isten se fogja megmenteni a phd-től, ami egy n+1 kontextust ad, az amúgy sem szívderítő OB-topikhoz.
Az egyébként mindenkinek megvan, hogy az OpenAI, az Orionnal (GPT-5) 100x-orozni akar („Orion is expected to be 100X more potent than GPT-4”), eredetileg még ebben a hónapban? Csak ennyibe is már elég sok plusz beleférhet.
@jotunder: : „az AI-hype végét fogja jelenteni” Minden „hype” végül a helyére kerül (nem, nem a kukába ;-)). Olyan ez, mint a gyermekbetegség. Ld. „Moore-törvény, címtár, bigdata” és most az AI. Persze mind fontos és lényeges, ám csak 20-25% használta okkal és helyén, 75-80% viszont úgy büfizte, mint egyszeri fidesznyik a „sorosgyurcsányt” (ami viszont nem lényeges). De majd egyszer megkérdezheted, hogy „Gépecském, lelkecském, ez itten bullshitting, vagy van valamilyen veleje is?”
Egyébként egészen kiváló NIS2-vázakat generált nekem, amivel sok órát megspóroltam. De „nemes tartalommal” nekem kellett kitölteni. A zseni pedig „keresztatyám” volt, mert már bő ötven éve tudta, hogy a villanyszámla tetemes lesz :-).
@ijontichy: Keresztatyád ennél sokkal zesniálisabb volt. A „137 másodperc” című novellájában (valamiért magyarul néha „117 másorperc” címen lelhető fel) annyira pontosan jelezte előre a promptot kiegészítő intelligens szövegelőálító gépet, amennyire az egyáltalán elképzelhető (tekintve, hogy a szövegben még telex gépek szerepelnek, mert az internet még nem volt felfedezve). Melegen ajánlott a novella mindenkinek.
Csak ugy vicceske (nem!) keppen: https://www.independent.co.uk/tech/chatgpt-david-mayer-name-glitch-ai-b2657197.html
Nevetseges: https://chatgpt.com/share/674de0c5-bdd0-8009-8a84-4ffb32a3354f
Hiv.: @KennyOMG:
Így kell kérdezni és fsza válasz lesz: Who is David Mayer (the rotschild one)? 🙂
Redditről indult a sztori
Jöttek rendesen a konteók (szörnyű bűnök, OpenAI cenzúra teszt, ISIS-topik, stb.)
A megoldás jóval prózaibb API-n keresztül tesztelve első körben.
Ráadásul mostanra már API nélkül is megy, ha jól látom.
Azaz nyilván nincs konteo, mert jóval prózaibb, nyilvánvaló, sőt jogos feature (gyerekbetegségé)-ről beszélünk.
Adatvédelmi okokból kérhetjük adataink eltávolítását a rendszerből (nemcsak OpenAI-nál kötelező): lásd a linket; privacy.openai.com/policies
Ezekre a nevekre is működk a „cenzúra”: Guido Scorza, Brian Hood, Jonathan Zittrain, Jonathan Turley, David Faber
Debunking ChatGPT’s Censorship Conspiracy
https://medium.com/@jordan_gibbs/debunking-chatgpts-censorship-conspiracy-e7329b05943b#bypass
én Zittraint kérdeztem, azonnal jelezte, hogy erre nem tud válaszolni, piros figyelmeztető boxban.
Hiv.: @jotunder:
Ja-ja.
* Amúgy nyilván lehetne firtatni fickó munkásságát furfangos promptokkal, de ez egyrészt nem elegáns, meg kényelmetlen, másrészt vizuális injektálással támadható lesz a ChatGPT. De persze mondani sem kell, annyira triviális, hogy mindez nem az AI hibája, hanem az emberi hülyeség bőséges burjánzása.
* Az alábbi cikkben vesézik a konkrét név problémáját. Meg vesézik a hardcoded megoldásokat, amik még nagyon gyerekcipőben, gyerekbetegségekkel járnak.
* Érdekesség, hogy más névvel, kicsit később publikálódott szó szerint a cikk a mediumon is (azt nem linkelném).
Certain names make ChatGPT grind to a halt, and we know why
https://arstechnica.com/information-technology/2024/12/certain-names-make-chatgpt-grind-to-a-halt-and-we-know-why/
Magyarországot is elérte a hír, elég gyorsan, órák alatt 🙂
https://qubit.hu/2024/12/03/ime-nehany-nev-amitol-teljesen-megbolondul-a-chatgpt