A filozófia halála? A kínai szoba titka.
A filozófia nem halt meg, de a huszadik század egyik legjelentősebb gondolkodója, John Searle, szeptember 17-én, kilencvenhárom éves korában valóban elhunyt.
1995-ben Searle megkapta a Simon Newcomb-díjat, amelynek valószínűleg nem örült különösebben. A díjat ugyanis a mesterséges intelligencia elleni „legostobább érvért” ítélték neki. (Az életműdíjat Hubert Dreyfus kapta, akiről azt gondolták, hogy életének nagy részében sületlenségeket írt az AI-ról. Ez azonban a generatív mesterséges intelligencia fényében már nem ennyire egyértelmű.)
Searle 1980-ban publikálta Minds, Brains and Programs című cikkét, amelyben bemutatta a „kínai szoba” gondolatkísérletet – ezt ma minden filozófia szakos hallgatónak ismernie kell. A kísérletben egy kínaiul nem tudó ember ül egy szobában. Az ajtó alatt kínai szövegeket csúsztatnak be neki, ő pedig hasonló szövegekkel válaszol. Valójában a szobában van egy kézikönyv, amely pontosan előírja, hogy mely szimbólumsorozatokra mely más szimbólumsorozatokkal kell reagálnia. Az ember tehát a jeleket manipulálja, de nem érti a kínai nyelvet. Amikor először hallottam erről, elég meredeknek tartottam érvként a mesterséges intelligencia ellen, ma pedig még inkább annak tartom.
1980-ban, a „GOFAI” (Good Old Fashioned Artificial Intelligence) korszakában ez az érv kevésbé tűnt problematikusnak. (Dreyfus is elsősorban a GOFAI-t bírálta. Semmi sem utal arra, hogy a generatív AI ellen is súlyos kifogásai lettek volna, ha ma is élne.)
Searle a kínai szobával azt akarta megmutatni, hogy egy tökéletes szintaktikai tudással rendelkező gép egyáltalán nem érti a dolgok jelentését, vagyis nincs és nem is lehet szemantikai tudása. Én viszont azt gondolom – és ezért talán majd kapok a fejemre a kedves Olvasótól –, hogy az elmúlt kétezer év legnagyobb kihívása érte el a filozófiát a generatív mesterséges intelligencia megjelenésével. A filozófusok óriási többsége azonban elutasítja ezt a kihívást. Ez pedig akár a filozófia halálát is jelentheti: azt, hogy a filozófia lassan irrelevánssá válik, és csupán mérges bácsik és nénik gyülekezetévé lesz, akik szerint a filozófiának Platón lábjegyzeteinek kell lennie. (Tudom, hogy valójában nem így gondolják.) Platón mindenesetre soha nem írt a GPT-ről – ahogy a gravitációról sem, amelynek létezéséről fogalma sem volt, s természettudományos ismeretei egy mai hetedikes gyerek szintjén álltak. Ez persze nem von le semmit jelentőségéből, de tény.
A filozófusok most lehetőséget kaptak, hogy kiszellőztessék a kínai szobát: hogy szembenézzenek azzal, ami történik, új lendületet adjanak a filozófiának, és megmentsék attól, hogy pusztán filozófiatörténetté váljon.
<div class='sharedaddy sd-block sd-like jetpack-likes-widget-wrapper jetpack-likes-widget-unloaded' id='like-post-wrapper-192691293-16532543-6ae0ebc3c95fd' data-src='https://widgets.wp.com/likes/?ver=14.1#blog_id=192691293&post_id=16532543&origin=www.orulunkvincent.hu&obj_id=192691293-16532543-6ae0ebc3c95fd&n=1' data-name='like-post-frame-192691293-16532543-6ae0ebc3c95fd' data-title='Like or Reblog'><h3 class="sd-title">Like this:</h3><div class='likes-widget-placeholder post-likes-widget-placeholder' style='height: 55px;'><span class='button'><span>Like</span></span> <span class="loading">Loading...</span></div><span class='sd-text-color'></span><a class='sd-link-color'></a></div>
Nagyon-nagyon szomorú, hogy meghalt Searle 🙁
Ugyanakkor a filozófia nagyon sok dologgal foglalkozik, és nem igazán világos előttem, hogy ezek közül miért éppen a GAI lenne a halála. Az, hogy a filozófia egyes ágai szép lassan elhalnak (irrelevánssá válnak), szvsz évszázadok óta zajlik, de hogy a GAI az egészre rácsapná a koporsófedelet, az miért adódna?
@jack_of_all_trades: nem a GAI csapná rá a koporsófedelet, hanem az ha látványosan nem vesznek róla tudomást. azt gondolom, hogy óriási esélyt jelent ez a filozófiának.
@jack_of_all_trades: évek óta teljes elszigeteltségben élt. egy öregek otthonában halt meg. én nem tudom, hogy mi volt az igazság vele kapcsolatban, de olyan nagyon nem is érdekel, az nem kétséges, hogy a legnagyobb filozófusok egyike volt és nem írtak a haláláról egy sort sem. ha valami valóságshow szereplőnek eltörik a műkörme az főhír. az ortega poszthoz is kommentár lehetne.
@jotunder: Ez valóban sokkoló, én is azt nézem, hogy az általam követett filozófiai oldalak vagy egyáltalán nem jelezték, vagy csak valamiféle mellékes említést tettek róla, ami botrány, ahogy az is, hogy méltatlan körülmények között kellett töltenie az élete végét – mindkettőnél jobbat érdemelt.
[1] A szimbólumkezelés problémája: Akár a régi szabályalapú AI (GOFAI), akár a mai LLM-ek – lenyűgöző eredményeik ellenére – alapvetően szintaxisra épülnek, nem szemantikai megértésre. A különbség ma annyi, hogy az új modellek sokkal nagyobb sebességgel és részletgazdagsággal produkálnak eredményeket.
[2] A „mi nem az” tudása: Ahogy Searle idején, ma sem sikerült pozitívan meghatároznunk, mi az a „tudás” vagy „megértés”. Csak annyit tudunk, mi nem az – legfeljebb finomabb részletekben.
[3] Penrose mint ellenpont: Érdemes Penrose-ra is figyelni, mert bár sok kritika éri, a Gödel-érvből kiindulva egészen a „nedves agy kvantumösszeomlásáig” jut el, és határozottan állítja: a tudat nem számítható ki – még elvileg sem (itt a megszámlálható vs. folytonos végtelen analógiája hívogató, de óvatosságot igényel).
[4] AI-tudat lehetősége: Penrose azt sem zárja ki, hogy az AI-nak is lehet tudata, de ha lesz, az nem lesz ugyanolyan, mint az emberi – mert más fizikai alapokon állhat.
[5] Dehogy hal ki a filozófia. Inkább most nyíltak ki igazán az ablakok, és áramlik be a friss levegő. A mesterséges intelligencia új kérdéseket hozott, amelyekhez a filozófiának alkalmazkodnia kell – de épp ez adhat neki új lendületet és relevanciát.
@tahonoli: Penrose is megkapta a Newcombe -díjat 95-ben 🙂 négyen kapták. a filozófiában nincs végleges tudás, csúnyábban szólva, a filozófiának nincsenek eredményei, és nem látom a kitárt ablakokat.
Hiv.: @jotunder:
[1] Newcomb díj, nem? 😉 Ráadásul nem akármilyen Newcomb, hanem „The 1995 Simon Newcomb Awards”, amit csak egyszer osztottak ki, se előtte, se utána. (Nem-keverendően a „Newcomb Cleveland Prize”-zal) Nemkicsit ciki módon a díjat adók számára, hogy mind a négy díjazott jókat mondott, máig hatóan, idézetten.
https://www.researchgate.net/publication/258845230_The_1995_Simon_Newcomb_Awards
[2] A filozófiának valóban nincs Pitagorász-tétel típusú eredménye. Fogalmak, keretek, kérdésfeltevések viszont érkezhetnek, érkeznek. A ma gondolkodását is befolyásolóan.
[3] „Ablak és friss levegő”-topik: vég nélkül sorolható talán, de vegyük csak szimplán David Chalmers-t (Penrose kapcsán bukkant fel nálam). Az egyik nagy kedvencemet, az alábbi „by the way” szálakkal.
Hogyan keletkezik a szubjektív élmény az agy fizikai folyamataiból?
Reality+: elég fejlett virtuális világ valóságnak számít?
A filozófiának nem az-e a dolga, hogy megmutassa a kérdések szerkezetét?
Penrose-zal szembemegy, amikor kvantummechanikai spekulációk helyett kognitív és logikai keretet próbál hozni.
Searle „lezárásával” is szembemegy, és azt mondja: másképpen kell feltenni a kérdést, mint az AI ért vagy nem ért.
@tahonoli: Chalmersről itt már poszt is volt („itt már orvost is öltek”)
newcombot javítottam.
…Van ez a Homo sapiens sapiens nevű hominidafaj, amelynek az egyedei elsöprő többségükben – amióta a faj csak létezik – nem rendelkeznek még csak közelítőleg tökéletes szemantikai & szintaktikai tudással sem.
Ugyanez a hominidafaj – amióta csak létezik – intelligensnek tartja magát. 😀
QED.
A filozófiának természetesen vannak „eredményei”. Csak mivel ez a todomány (a filozófia) nem a tényekkel foglalkozik, az eredményei is másfélék, mit a tény-tudományok eredményei. De az mondani kétezer akárhány év filozófiai gondolkodására, hogy nincsenek eredményei az már bocs, de botorság. És természetesen olyan eredményei vannak, amelyek előrébb vitték a világról szóló tudásunkat.
De fát vágni valóban nem lehet vele.
Azok a gondolatok, amiket a filozófusok egyes korokban a legnagyobb pontosságra és mélységre törekedve megfogalmaztak, szerintem beépültek a kultúránkba, bár ezt nem tudom bizonyítani. Arra jutottam, hogy az én felfogásom közel áll Kanthoz, mivel az én kiindulópontom is egy felvilágosodáson alapuló, elfogadó és támogató értelmű hitrendszer volt, és hasonló kiinduló feltételrendszer hasonló eredményeket hoz létre. (Nincs új a Nap alatt, csak a megfogalmazások változnak.)
Másrészt a filozófia mindig egyéni konstrukció, egyéni élményeken alapul, és ha a megfogalmazásai „betalálnak”, akkor egy kortárs csoport reflexióját is leképezi. Én nem látom, hogy az AI hogyan lenne képes megjeleníteni koherens és konzekvens módon egyéni látásmódokat.
Hiv.: @tahonoli:
” alapvetően szintaxisra épülnek, nem szemantikai megértésre. ”
Na, tanultam valamit, bár a filozófia távol áll tőlem. Nemrégiben egy bioinformatikai cikkemre kaptam egy gyanús bírálatot; meg voltam győződve róla, hogy AI-val írták. Szóvá is tettem, s annyit elértem vele, hogy a főszerkesztő is elovasta a cikket, elejétől végéig. A bírálat azokat a szavakat használta, emlyeket én is a cikkben. Nyelvtanilag tökéletes mondatok voltak. Kb. 50 %-ban volt fülük-farkuk, elgondolkodtattak, és értelmes választ lehetett rájuk adni. A másik felük viszont nettó hülyeség volt. Az AI használta a szavakat, de fogalma sem volt arról, hogy mit ír. Valószínűleg a bírálónak sem; vagy pedig arra is lusta volt, hogy elolvassa a saját bírálatát.
Én itt azt nem látom be, hogy a a filozófiát miért, miben korlátozná, vagy semmisítené meg a kínai szoba-probléma, vagy a mesterséges intelligencia. A kínai szoba-téma nyilvánvalóan összefüggésben van az MI-vel. Annyiban, hogy az MI már most is kínai szobaként működik (persze kis hibákkal): beszélgetünk vele, és majdnem úgy válaszolgat, mintha zember lenne. És ez csak egyre jobb lesz az idővel. A Turing tesztnek is meg fog felelni. És még mindig csak kínai szoba lesz, és nem értelmes, tudatos. Másként fogalmazva: amire most képes azt nyelvi bűvészkedéssel, ha úgy tetszik, „szintaktikával” érik el, nem pedig megértéssel, értelemmel, és tudattal. Tehát, amíg ez utóbbiak nem lesznek benne, addig csak kínai szoba lesz. És hogy ezt hogyan lehet elérni (hogy ne kínai szoba legyen), azt még nem tudja senki, vagy ha elméletileg tudja is, nem tudják megcsinálni (annyira komplex).
No de mi köze van ehhez a filozófiának? A filozófia valóban számos dologgal foglalkozik, ez a terület legfeljebb csak az elmefilozófiát érinti, de azt sem úgy, hogy eliminálódjon tőle. Majd szépen elfilozofálgatnak arról, hogy hol a határa a kínai szobának, és mitől meddig, merre keletkezik a tudat. A filozófia többi része (diszciplínája) meg köszöni, jól van.
Lehet (Biztos) nem vagyok eléggé képzett, de a kínai szoba pontosan gondolatkísérlet mire jó?
Szerintem hogy valaki/valami gondolkozik, az mindig egy fekete doboz.
A inputból előállított output a fontos, nem maga az, hogy mi történik a dobozban.
Ha minden kérdésre olyan választ ad egy AI, ami felér egy emberi válasszal (vagy akár jobb annál), akkor az emberi szintű (vagy jobb) gondolkozásra utal.
HOgy közben mi történik benne, annak kb. az elektromos igényre lehet kihatással, de magának a gondolkozás minőségének meghatározására nem hat szerintem ki.
((((Filozófiaszak probléma. Hogy megszűnnek a kínai szobában a lehetőségek.)))) Bocccs
Nagyon jó a thread (sajnálatos hogy szomorú apropó indukálta: Searle halála)
Hiv.: @ipartelep:
Ez a komment nagyon tetszett, mert én is hasonlóan látom.
Itt van rögtön az AGI gumicsont kérdése, mi AGI és mi nem.
Béndek Peti az FB-blogján linkelte az alábbi 7,5 perces videót, két napja.
David Deutsch fizikus nem akárki, Sam Altman egyfajta idolja.
Közösen megfogalmaznak egy brutális állítást:
Ha egy jövőbeli pl.: GPT-8 megoldja a kvantumgravitáció elméletét, az még a szkeptikus David Deutsch szerint is AGI.
És igen, mert több körrel nehezebb probléma még a Riemann-hipotézis megoldásánál is.
De nemcsak alapjáraton nehezebb.
Matekban elég az AI-nak saját magán belül molyolnia a bizonyításhoz/cáfolathoz.
A kvantumgravitáció esetében maximálisan is csak hipotézis felállításához elég, hiszen a kísérleti fizika bizonyítása is kell a teljes megoldáshoz.
És sajnos nem elég, ha az ember a kísérleti fizikai tudományos cikkeket betáplálja az AI-ba. Sajnos az AI-nak fizikai kísérleteket kell nyilvánvalóan tudnia terveznie és végrehajtania a sikerhez.
Körbeértünk. Ez bizony AGI és nagyon nehéz ellene érvelni ezen a szinten, hogy nem AGI.
De azért felmerülnek kérdések:
Pl1: Mi a legegyszerűbb, legkönnyebb AGI-bizonyíték? Ne a kvantumgravitációt, mint legnehezebb problémát válasszuk nullkilométernek. Például van-e 100% vegytiszta matek AGI? A Riemann-hipotézis megoldása AGI lenne? (Szerintem egyébként igen). Sőt a léc szerintem még lejjebb vihető. Arról már nem is beszélve, ha a ma AI-ját is már AGI-nak vesszük, ugye. 😉
Pl2: Ha a végső koronát a bizonyításra az ember teszi fel nem az AI, akkot bukik-e az AGI/ASI koncepció, hiszen az ember beelőzött az AI elé. AI nem tudott gyorsabb lenni az embernél. Ad absurdum még egy kvantumgravitáció topik esetén sem. Pedig korábban megállapodtunk, hogy jelen tudásunk szerint a kvantumgravitáció megoldása AGI-szintű probléma.
[x][x][x][x]
Sam Altman and David Deutsch Discuss AGI
YT: v=WZ22AJmuKKQ
@tahonoli: Valamit én itt nagyon félreérthetek. Az AGI definíció szerint nem arról ismerszik meg, hogy egy adott speciális területen mekkorát tud durrantani, hanem épp arról, hogy általánosan, bármely témakörben képes a kognitív feladatok elvégzésére. Egy spcializált AI, ami kurvajó matek-fizikában, de nem tudja értelmezni egy ikea ágy összerakási útmutatóját, megtippelni a három legdrágább cikket egy bevásárlólistában, elmagyarázni, hogy miért vicces egy limerick az nem AGI, hanem cél-AI. Ellenben nyugodtan lehet valamit AGI-nak tekinteni, ami minden területen épp csak olyan okos mint mi, gyarló emberek és még a Riemann-hipotézist se tudja bizonyítani vagy cáfolni. Ha én mondjuk tekinthető vagyok NGI-nek (natural general intelligence), akkor a velem azonos teljesítményt felmutató masinát joggal hívjhatjuk AGI-nak. És hidd el, hogy lövésem sincs se a hipotézisről, se a kvantumgravitációról.
Lehet, hogy valaminek a differencia specificája ennek a hipotézisnek vagy a kvantumgravitációnak a megfejtése, de szerintem nem az AGI-é.
Hiv.: @nyulambator:
Kiváló felvetés és ugye kellőképpen képlékeny az AGI definiciója, hogy bármi IS beleférjen 🙂
Amit mondasz tehát teljesen korrekt.
Amit David Deustch és nyomában én feszegetek az az „explanatory creativity”, mint fő AGI-faktor. Emiatt tekinti ő AGI-problémának a kvantumgravitációt. Merthogy ma már nagyon sokat tud az AI sok területen, de a fő gond a kreatívitás (hiánya), mert abban nagyon lassú a fejlődés.
Mondok egy hülye analógiát (PCA: Principal Component Analysis). Van jó sok faktorod egy adathalmazban, majd PCA végén marad 1-2 fő komponens, ami magyarázni fogja az egész adathalmazt). Na ez a végső főkomponens a kreatívitás lehet.
Hiv.: @sztoikus81fbac2c5d:
A kérdésed jó. A kínai szoba gondolatkísérlet annak a bemutatása, hogy bár a szabályok (szintaxis) alapú válaszok megkülönböztethetetlenek lehetnek (legalábbis egy szintig) a tudatos, és megértés alapú válaszoktól, de ez mégis két különböző műfaj. Ez ott kapcsolódik az MI-kérdéshez, hogy az MI jelenleg csak egy kínai szoba, nincs szemantikai jellegű megértése, a válaszait nem érti, nincs tudata, a válaszokat nem gondolkodással állítja elő.
A közeli jövőre nézve ezt azt jelenti, hogy bár ezek a nyelvi modellek nagyon faszák, és nyilván még sokkal jobbak is lehetnek, de ha csak nyelvi modellek maradnak, akkor ugyanabból még többet adnak hozzájuk, és nem lesz minőségi változás. A minőségi változás jelentené a megértést, a gondolkodást és talán a tudatot is.
A kérdésedre konkrétan válaszolva: addig persze jó, amíg a kínai szoba módszerrel is helyesen válaszol az MI a kérdésekre. Csak az ember érzi azt, hogy ennek a „szintaxis” (szabályok) alapú megoldásnak megvannak a korlátai, és azokat nagyon hamar el is érjük az MI-vel. És az akkor felmerülő kérdésekre már nem fog tudni válaszolni. Vagy hát voltaképpen már most is tudjuk ezeket a korlátokat, hiszen az MI egy csomó kérdésre nem tud válaszolni. Viszont, ha értene, és gondolkodna, akkor tudna.
Tehát röviden: kínai szobás MI nem jó, nem okos, gondolkodó MI jó, okos.
Hiv.: @sztoikus…:
Szintaxis: „Játék a betűkkel” (Egri János), a kombinációk újrarendezése (mint egy szókirakó-játék).
Szemantika: valódi új jelentések LÉTREHOZÁSA, belső összefüggések FELTÁRÁSA.
Iparteleppel is egyetértve, szintaxis alapon, csak meglévő tokenekkel tudsz játszani, amiket már valaki létrehozott. Sok f@sz@ dolgot lehet vele kiírni outputra, de ezek köre definitive behatárolt, az előzmény-aspektus miatt.
Szemantikai alapon vadiúj dolgok jöhetnek létre. Például egy új gyógyszermolekula, egy ember által bebizonyítatlan matematikai tétel bizonyítása. Ezek re-kombinálással biztosan nem jöhetnek létre. A f@sz@ság tehát felskálázódik (benchmarkkal kimutathatóan).
@tahonoli: Hát speciel, ha valahol, akkor pont az új gyógyszermolekulák keresésében régóta és igen hatékonyan használják a mesterséges intelligenciát.
Amúgy a kreativitást én nem érzem akkora akadálynak. A kreativitás nem más mint szabad asszociáció; a kunszt az értelmetlen kreálmányok hatékony kiszűrése. Létrehozni húszezer új (a valóságban is szintetizálható és az épp kívánt feltételeknek megfelelő) molekulát nem nagy kunszt az AI-nak. A feladvány ezek közül a lehető leggyorsabban (lehetőleg még in silico ) kiszűrni ami biztos nem hat, vagy mérgező, hogy már csak egy töredéket kelljen tényleg szintetizálni, aztán _in vitro_tesztelni mielött állatba, végül a húszezerből esetleg öt emberbe is kerülhet, hogy egyből tényleg gyógyszer legyen.
„A végtelenmajom-tétel szerint ha adott valamilyen előre rögzített szöveg, és egy majom korlátlan ideig véletlenszerűen ütögeti egy írógép billentyűit, akkor majdnem biztos, hogy előbb-utóbb ezt az adott szöveget is leírja – még ha az olyan összetett és értelmes is, mint pl. William Shakespeare teljes életműve.” (Wikipédia).
Hiv.: @nyulambator:
Teljesen korrekt, amit írsz, meg én voltam pontatlan a szétválasztás elmulasztásával. Azaz a szintaktikus AI is képes kreatív csodákra, de inkább csak „vak tyúk is talál szemet” alapon, nem? Végül is a Riemann-hipotézis megoldása is kieshet a szintaktikus AI-val, csak nem biztos, hogy mi megéljük. Ilyen értelemben Sztoikusnak is igaza lehet, hiszen nem elvi lehetlenség még ez sem.
De azért a megértés alapján való AI-kutatás, az azért más minőség.
@tahonoli: Tegyük hozzá, hogy a humán kreativitás is csak „vak tyúk is talál szemet” alapon hoz létre értéket. Hihetetlen mennyiségű ostobaság jut az emberek eszébe és sajnos a legtöbbünk ezt ki is mondja, sőt gyakran meg vagyunk győződve róla, hogy a bölcsek köve nálunk van. Néhanap azért eszünkbe jut okosság is, sőt, szerencsésebbeknek, akik ráadásul belefektették a maguk pár-tízezer óráját olyan is eszébe jut, ami előrébb viszi a civilizációt.
Tényleg az az érzésem, hogy az a hozzáállás, hogy amit sikerül megcsinálni, az nem az igazi AI, örökre fennmarad. ( https://a.te.ervelesi.hibad.hu/nem-igazi-skot )
Annak idején top AI szent grál volt a beszédfelismerés, beszéd generálás, karakterfelismerés, noplánesőt kézírás olvasás, szakértő rendszerek, és amint ezek működtek, rájöttünk, hogy ez nem igazi AI. Most már ott tartunk, hogy a jobb AI implementációk tényleg szinte mindenre képesek, amire egy átlagember, sőt egy csomó mindenben okosabbak az átlagnál, de amíg a Riemann-hipotézist nem oldja meg, addig az nem igazi AGI. Tologatjuk odább a kaput de már nem bírjuk elég gyorsan odábbtolni, annyira a nyakunkba liheg az AI, csak nem merjük magunknak se bevallani.
Hiv.: @nyulambator:
Nagyon köszönöm neked ezt a kommentet. Nálam TOP-10-ben van benne, itt a blogon, ever.
1.Az én nagyon karcsú, fékezett habzású konklúzióm egyelőre az, hogy kettős keretben kell gondolkodni (örülnék neki, ha tudnátok jobbat, például egységes keretet javasolni): (a) a szintaktikus AI is tényleg meg elvitathatatlanul csodákra lehet képes. Éppen én, a minap írtam lelkendezve, hogy sikerült az erős prímszámtételt Lean-ben formalizálni, mondhatni hipersebességgel (100% vegytiszta LLM+Lean duóval), „szintaktikus AI”-val. Szívdobogásom beleduplázódott a gyönyörűségbe. JT nálam sokkal autentikusabban tudná elmondani, de Terence Taoék eredetileg azért adták fel 18 hónap után (meg csináltak challenge-t a témából), mert a szükséges analízises Lean-könyvtár lényegében nullán állt. Na ezt sikerült felépíteni szintaktikus AI-vel. Mi ez, ha nem kreatívitás? Nyilván lehet lefikázni a dolgot, de helyes lenne? (b) A szemantika vagy a neuroszimbolikus AI viszont nyilván progresszív haladvány szerint emelné az állapottér potenciálját, hogy totális képzavarral éljek. Nyilván Mari néni biciklin („élőszövet fémvázon”) sebességet meg lehet haladni.
2.A kommented második fele, még inkább a szívemből szólt: kb.1 éve kommentelhettem, hogy bár meglehet egyedül vagyok vele a világegyetemben, de szerintem az AGI és technológiai szingularitás már velünk van. (Ki nem keresem a linket).
Hiv.: @nyulambator:
Néhány megjegyzés ehhez. Erről a témáról már többször beszéltünk. A jelexerint nem közeledtek az álláspontok. Ez már csak így megy…
(1) Az az ellenérv, hogy a nyelvi alapú MI nem gondolkodással, tudatosan, megértéssel állítja elő a szövegeket (amit pl. én mondok), nem „a nem igazi skót” típusú érvelési hiba, és nem is érvelési hiba. Ez egy technológiai és definíciós kérdés. Technológiai, mert az MI (a beszélgetőgépek) úgy működnek, ahogy: egy óriási szöveges adatállományból választják ki a valószínűleg legjobban odaillő választ. És definíciós, mert a gondolkodást, a tudatot, és a megértést nem így definiáljuk (testvérek között sem).
Máshogy mondom, általánosabban: a „nem igazi skót”-típusú érvelési hiba csak akkor állhat elő, ha az első állítás nem minden esetben igaz. Tesz egy általános állítást, amire vannak kivételek, és aztán, amior egy ilyen kivételt említenek (az ellenérvelő), akkor azt mondja rá, hogy a kivétel nem tartozik abba a kategóriába (az általános állítás alá). Itt nem ez a helyzet, az MI-vel kapcsolatos állításaink nem ilyenek..
(2) Tehát az „igazi MI”. az definíció kérdése. Attól függ (hogy igazi-e), hogy ki-ki, vagy a todomány, vagy az okosok annak definiálják-e. Lehetnek ilyen próbák, gondolatkísérletek ennek megállípítására, mint pl. a „kínai szoba”, vagy a Turing-teszt. Ha azokon átmegy (átmegy? nálam egyiken se), akkor egyesek mondhatják, hogy oké, ez már „igazi MI”. Mások meg mondhatják, hogy még mindig nem igazi, mert még nem tudatos, nem gondolkodik. Akkor jön, a gondolkodás, és a tudatosság definíciója. Mi az? Mi legyen az? Tehát tetszik érteni? Az, hogy a beszélgetőgép igazi MI-e, az nem egy ténykérdés (ami „ott van kint”). Ezt mi döntjük el, és ha nem tudjuk eldönteni akkor vitatkozunk rajta.
(3) És ettől függetlenül a beszélgetőgép egyszer majd igazi MI lesz, ebben biztos vagyok. De azt is erősen valószínűsítem, hogy nem a mostani „nyelvi módszerrel”, pontosabban, nem csak azzal. Másfajta kognitív képességeket is kap majd (ezeket kell majd kitalálniuk az okosoknak, hogy mit, hogyan), és akkor majd… És akkor már mindenkinek nyilvánvaló lesz, hogy ezt már definiálhatjuk igazi MI-nek. Most még nem.
@ipartelep: . „Technológiai, mert az MI (a beszélgetőgépek) úgy működnek, ahogy: egy óriási szöveges adatállományból választják ki a valószínűleg legjobban odaillő választ.”
nem, nem ez történik. filozófiai értelemben az történik, hogy a nyelvi modellnek kialakul egy hipotézise annak a corpus-nak a keletkezéséről, amin tréningezték. ez egy implicit hipotézis, ami non-conceptual, de attól még egy hipotézis. az adatállomány nincs benne a nyelvi modellben, nem olvasható ki belőle. a transzformerek rengeteget fejlődtek, képesek gondolati láncokat felépíteni, képesek konzultálni az internettel, de alapvetően, autoregresszív nyelvi modellek. az a tény, hogy ez a dolog egyáltalán működik, nagyjából platón óta a legkomolyabb hint lehetne a filozófusok számára, hogy kurvára nem úgy kell gondolkodni, hogy knowledge= justified true belief és itt nem gettier erőltettett hülyeségére gondolok. érdemes megnézni az affordanciákat kutató gigagrantet a SCENE-t (az full természettudományos, most írtak róla pesten), hogy milyen filozófiát lehetne berakni mögé. az alapok változnak, a metafizika fogalma változik, az elmefilozófiát esetleg el kellene dobni jelenlegi formájában, én nem vagyok filozófus, én csak figyelem mi történik.
@tahonoli: ha egy X bites szöveget random módon akar előállítani valaki bitenként, akkor kettő az X-ediken annak valószínűsége, hogy sikerül neki. ami nagy X esetén rohadtul kicsi érték, de a nagy számok törvénye szerint ha egyre többször végezed el a kísérletet, akkor majdnem biztosan (ami azt jelenti, hogy 100 százalék bizonyossággal, a matematikusok ilyen kis viccesek) előbb vagy utóbb megjelenik a szöveg, és azért elég könnyű megbecsülni azt a lépés számot, amikor már rettentően kicsi az esélye annak, hogy ez nem történik meg. ezek nagy X esetén messze a világegyetem életideje felett vannak (felfoghatatlanul messze).
@jotunder: Én ezt a mondatot nem értem: „filozófiai értelemben az történik, hogy a nyelvi modellnek kialakul egy hipotézise annak a corpus-nak a keletkezéséről, amin tréningezték. ez egy implicit hipotézis, ami non-conceptual, de attól még egy hipotézis.”
A hipotézis lehet más, mint a korpuszban szereplő tokenek disztribúciója? Ha kicserélem a korpusz összes karakterét egy gyerekrajzra teljes konzekvencia mellett, akkor éppugyanazokat az eredményeket kapom, csak ember számára olvashatatlan formában, nem? Ezzel azt akarom mondani, hogy a tartalomnak semmilyen szerepe nincs ebben a hipotézisben, csak és kizárolag az elemek eloszlását veszi figyelembe a modell? Vagy mi volna itt a hipotézis, és a corpus keletkezése?
Hiv.: @ipartelep:
Hiv.: @jotunder:
1. Nekem is az első reakcióm egy-az-egyben az volt, mint JT-é. Szabályszerűen fellázadtam ipartelep inkriminált mondására. Pedig köznapi, didaktikai értelemben mégiscsak igaza van, kellően távolból nézve, hogy (1) létező hatalmas corpus alapján (2) némi varázslással (3) statisztikailag legvalószínűbbet adják ki az outputra az LLM-ek. Itt ugye a „varázslás” a kulcs, hogy mi hogyan fér ebbe bele.
Természetesen JT-nek is igaza van technológiai, filozófiai értelemben: az LLM nem tárolja a korpuszt, amit esetleg ki lehetett volna olvasni ipartelep megközelítéséből, hanem analógiával élve közel veszteségmentesen tömörített cuccból dolgozik. Ami LLM-ek magukban hordoznak valamiféle kezdetleges világmodellt (aka „hipotézist”), disztribúciós regulákon („a macska inkább fekete, mint fehér”) és implicit struktúrákon („nyelvtani szerkezetek, szemantikai hasonlóságok”) keresztül.
2. „No True Scotsman”-dologban meghasonlottan határozatlan vagyok („vagy mégsem”). Értem, amit ipartelep mond, de magamon tapasztalom a kérdéses hibás érvelés káros tologatását és negatív hatását. Márpedig szeretem magam abban az illuzióban ringatni, hogy definició.-megkövetelő vagyok, ráadásul time-invariant módon konzisztensen, ami aztán végül itt-ott csak megbicsaklik.
Hiv.: @jack_of_all_trades:
Jól mondod, (1) az LLM nem tárolja a korpuszt szó szerint, (2) a tartalom nem „értett” a modellben, (3) a „hipotézis” tényleg homályos.
Azonban
(a) a „hipotézis” nem csak nyers disztribúció: a neurális hálós architektúrában (pl. attention mechanizmusban) struktúrák rajzolódnak ki: nyelvtani minták, kauzális kapcsolatok, szemantikai analógiák.
(b) A modell architektúra ugyan képes lenne megtanulni a rajzok disztribúcióját, de a nyelvi szinten értelmezett struktúrák (mondattan, jelentésbeli összefüggések) eltűnnének. Azaz a tartalom számít: nem mindegy, hogy nyelvi korpuszt vagy pixelmintázatokat tanítasz.
@tahonoli: ,”de a nyelvi szinten értelmezett struktúrák (mondattan, jelentésbeli összefüggések) eltűnnének.” – Szerintem ez a példám torzító hatása miatt lehet, mondjuk azt, hogy minden karakter helyett egy random másik karaktert választunk (és aztán az egész korpuszban konzekvensen cseréljük), tehát a macska az ~^˛˙/^ lesz stb. Ennek a dolognak a struktúrája pontosan azonos lenne a mi korpuszunkéval, ezért a mondattani és „jelentésbeli” összefüggések ugyanúgy fennállnának, nem? Más szóval a modell számára nem ‘a macska inkább fekete mint fehér’, hanem valami P(token1 & ennek közelében token2) > P(token1 & ennek közelében token3) és innentől mindegy, hogy token1 = macska vagy ~^˛˙/^? (Tudom, hogy a token nem egyenlő szó, csak próbálnám nem tovább bonyolítani az analógiát 🙂 )
Hiv.: @jotunder:
Szvsz:
Igen: (1) Az LLM-ek működése filozófiai kihívás, (2) nem szabad elintézni az LLM-eket azzal, hogy „csak szintaxis”, (3) a fogalmi keretek változnak
Nem:
(a) Az LLM-ek nem cáfolják az említett JTB-modellt, hanem más típusú tudást mutatnak. Számomra a cáfolat túlhajtott végletes megközelítésnek érződik.
(b) Az elmefilozófia miért lenne kuka? Csupán új kísérleti terepet kapott, és az AI lesz a lakmuszpapír. David Chalmers is, akiről volt szó, meg te is írtál róla többször is itt a blogon, kifejezetten meg nagyon szépen integrálja az AI-jelenséget a tudatfilozófiai vitákba, nem eldobva a hagyományos kereteket.
(c) Az, hogy az LLM-ek bírnak a „kezdetleges” implicit világmodellel, sok mindent helyre rakhat, nem?
Hiv.: @jack_of_all_trades:
A modell számára valóban mindegy, ahogy mondod, azonban nekünk nem mindegy. Ha minden token random karakterekből állna, akkor az emberi interpretálhatóság eltűnne és mi már nem tudnánk rámutatni, hogy ez „macska”. Ezért van az, hogy a modell implicit struktúrái nálunk szemantikailag is kiolvashatók. Azonban ez már a mi projektálásunk, nem a modell belső működése. A jelentés problémája nem a statisztikában van, hanem a hozzárendelésben van.
Azaz
(a) A modell valóban csak statisztikát lát.
(b) A „jelentést” mi adjuk, amikor összekötjük a „macska” szót a valósággal (egy állattal).
(c) Ez a pont az, ahol Searle kínai szobája továbbra is érvényes.
@tahonoli: Köszönöm, erre akartam kilyukadni, akkor ez világos így.
@tahonoli: a JTB modell lényege, hogy nincs szerepe a véletlennek a mentális működésben, az igazság abszolút. én nem állítom, hogy ez elmefilozófia „kuka”, csak azt, hogy végig kellene gondolni mi az, amit szinte axiómának gondolnak és esetleg el kellene vetni.
Hiv.: @jotunder:
Nyilván. 🙂 De persze azért kicsit félrement az ide-odapattogósan érvelős sztori.
Konszenzus-ajánlatom: a szintaktikus AI is képes embert meglepő váratlan csodákra, de másképp, mint a szemantikus AI. Nem vak majomként, hanem okosba’, disztribúciós minták kompressziójával jut el váratlan, hasznos eredményekhez (minőségi a különbség, nyilván).
A szemantikus AI ezzel szemben a megértés révén hozhatna minőségi ugrást: célirányosan, hipotézisvezérelt módon. Mindkettő értékes, de nem azonos ligákban fociznak.”
Hiv.: @jotunder:
1. A JTB nem merev abszolút igazságot feltételez (inkább correspondance/megfelelést?), hanem egy fogalom-keretet ad. Erről is volt szó tegnap, illetve ezért lehet jó ma AI-érában, filozófusnak lenni. Én úgy képzelem, hogy David Chalmers is lubickolhat az ilyetén intellektulis gyönyörökben. 🙂 Magamat beleélve mondom ezt, kvázi mint Mózesnél, aki megláthatta a Kánaánt, még ha nem is léphetett be.
2. Nem csak az „axiómákat” kell vizsgálni, hanem a kontextust is. Mi lenne, ha új kategóriákat nyitnánk: pl. probabilisztikus tudás, funkcionális tudás?
@tahonoli: Nem értem mire gondolsz, amikor a „megértés” szót használod (pun intended).
Na most lehet mesélni korpuszról meg szintaxisról, de ez a model jobban érti a családi kapcsolatokat mint egy átlag ötödikes és jobban következtet mint átlag Marika néni. Én nem tudom ennél jobban hogy lehet megérteni, hogy hogy viszonyulnak egymáshoz ezek a rokoni kapcsolatok.
Ahhoz, hogy egy LLM-nek „kialakulhasson egy hipotézise” bármiről, eleve valamiféle tudatot szükséges feltételzni az LLM részéről, amely tudatban a számára a külvilágot valamilyen szinten leképező modellek megjelenhetnek. Úgy sejtem, az ilyen típusú érvelésnél a petitio principii esete forog fenn (de legalábbis súlyosan ömmm …mechanoidealista álláspont).
Szerintem az (érthetően az) emberi viszonyokra kialakult fogalomkészlet viszi félre – törvényszerűen – az egész társalgást; mivel kényelmi szempontokból (és lustaságunk, továbbá az egész AI-kóceráj fejletlensége miatt) az LLM-ek „viselkedését” is az előbb említett, emberi viszonyokra kialakult fogalomkészlettel próbáljuk leírni.
Ahhoz, hogy „tudatot” tételezzünk akárminél („tudat” alatt legalább nagyvonalakban valamiféle állatihoz – emberihez, csimpánzihoz, delfinihez, polipihoz etc. – hasonló struktúrát & működést értve), a ’cihológia és biológia todománya szerint másodlagos és harmadlagos reprezentációs képességre van szükség.
Tudomásom szerint jelen állás szerint szó sincs ilyesmiről az LLM-ek esetében. Szóval szerintem
nemnagyon óvatosan kellene használni velük kapcsolatban ezeket a nyelvi eszközeinket. Sőt, inkább új, szigorúan definiált fogalmakat/kifejezéseket lenne illendő bevezetni az LLM-ek „viselkedésének” leírására.Magyarul egy LLM-nek az égvilágon semmije sem „alakul ki” semmijében, pusztán egy nagyon komplex programsor-összes bővül némileg újabb pár programsorral, illetve módosul itt-ott.
@labrys:
Ne keverjük a rétegeket. Az emberre is mondhatnám, hogy az égvilágon semmije sem „alakul ki” semmijében, pusztán néhány neurális kapcsolódás megerősödik, esetleg akár új kapcsolódások is létrejönnek. A fizikai manifesztáció, szóval, hogy hogy is reprezentálódik valójában az a model, az egy másik szint.
Lehet, hogy szó sincs másodlagos és harmadlagos reprezentációs képességről, de hogy úgy reagál, mintha lenne neki ilyenje az tuti.
@labrys: nem, nem kell tudatot feltételezni. ez implicit hipotézis, ami tapasztalati, de nem szubjektíve tapasztalati.
@labrys: a tudatról, pláne egy octopus tudatáról gyakorlatilag semmit sem tudnak. az emberi tudatról sem sokat. arról is elég komoly vita van, hogy mit jelent az, hogy „reprezentáció” filozófiai értelemben. hogy az milyen szinten jelenik meg. elég sok időm ment rá, talán túl sok, nem tudom.
Hiv.: @nyulambator:
Ez a híres neves grounding problematika.
1.Az LLM nem rendelkezik belső fogalmi modellel arról, hogy „anya”, „unoka”, „testvér” mit jelent a világban. Ehelyett óriási mennyiségű szöveges mintából megtanulta, hogy ezek a szavak hogyan fordulnak elő együtt, milyen relációs sémák jellemzőek. Amikor az LLM kap egy feladványt, nem egy „családfa-modellben” gondolkodik, hanem mintázatokon keresztül rekonstruálja a legvalószínűbb következtetési láncot. Ezért jogos azt mondani: ez „csak” szimulált megértés – output szinten meggyőző, de nincs mögötte valósághoz kötött intenció. Az ember csodájára jár a szimulált megértés erejének is (ahogy mondod), de ettől ez még csak szimulált megértés. Az, hogy „unoka” az az AI számára semmi nem jelent, csak nekünk embereknek.
2.Grounding az, amikor a szimbólumokat nem csak más szimbólumokhoz viszonyítva értelmezzük, hanem a valós világhoz kötjük. Pl. a „macska” szónál nem csak szövegekből tudható, hogy gyakran jön utána „dorombol”, hanem érzékszervi vagy cselekvési tapasztalatból is (hallottuk, láttuk). Ha egy AI-modell groundinggal bírna, akkor a „testvér” vagy „unoka” nem csak szövegben tanult reláció lenne, hanem a világban megtapasztalt társas struktúrához kötődne.
Ez lenne a különbség:
szimuláció, azaz szöveg-mintázatokból következtetés
megértés (grounded), azaz a fogalmakat világ-tapasztalat támasztja alá.
Innentől nagyon sokfelé ágazik a téma, World-model és Yann LeCuntól kezdve rengeteg irányba.
Hiv.: @labrys:
1. Nem kell tudat ahhoz, hogy hipotézis-szerű struktúrák megjelenjenek. A biológiában is van „hipotézisalkotás” tudat nélkül, hiszen baktériumok adaptálnak, immunrendszer antitesteket „tesztel”, darwini szelekció működik. Ezek „hipotézis-szerű” mechanizmusok: nincs tudat, de van implicit modell a környezetről.
2. Az LLM implicit világmodellje nem tudatos, de létező. A súlyokban kódolt mintázatok révén az LLM képes általánosítani a nyelv mögötti struktúrákról. Az LLM-ek implicit struktúrái inkább ide sorolhatók: nincs intencionalitás, de van funkcionális modell.
Hiv.: @jotunder:
Penrose-nál nagyon szépen válik szét az emberi és állati tudat.
Ugye, Penrose azt mondja, hogy kvantumösszeomlás révén lehet qualia (élmény), tudat.
Embernél: a kvantum-összeomlás és a nyelvi, logikai gondolkodás összekapcsolódik, azaz innen jön a Gödel-érv: az ember képes „belátni” bizonyíthatatlan igazságokat. Tudat, mint racionális belátás, abszolút ember-specifikus.
Állatoknál: a kvantum-összeomlás révén lehet élmény/érzés jellegű tudat, de nyilván „csak” ennyi.
tahonoli-hoz.
.
Persze, ha ilyen egyszerű lenne a különbség – előzetes bázison alapuló predikció vs. világmegértés – akkor minden értelmes és félértelmes szakértő ezt az állítást fogadná el döntő szempontnak. A probléma az, hogy a világmegértés ott van a predikció bázisában is, akár akarjuk, akár nem.
@tahonoli: Valójában én is csak onnan tudom, hogy „anya”, „unoka”, „testvér” mit jelent a világban, hogy gyerekkoromban a környezetemben sokan használták ezeket a szavakat konzisztens jelentéssel. Az én fejemben ez semmiben sem különbözik attól, hogy a model óriási mennyiségű szöveges mintából tanulta meg mindezeket. Az, hogy az én training adataim „hangos-szagos-taktilis-film” alapúak az LLM-é meg szöveges az szerintem csak technikai különbség. Szóval az LLM corpus-ból leszűrt anya, testvér, unoka fogalma, vagy megértése semmivel sem alacsonyabbrendű az enyémnél. Nem csak visszamondja amit olvasott, de a kapcsolatokat következetesen és helyesen használja korábban nem látott kérdések megválaszolására is. Az iskolában, ha egy diák vissza tudja mondani a leckét, arra azt mondjuk, hogy tudja, ha cseles kérdésekre is tud felelni a tanultak alaján, akkor meg azt, hogy érti is.
Ha most egy modelt a youtube teljes videokészletével tanítanánk meg és onnan tanulná meg, hogy mi az, hogy unoka, tesvér hugi, akkor jobban lenne grounding-ja?
Szerintem ha van szignifikáns különbség az LLM és az én tanításom között, az sokkal inkább az, hogy az emberi tanulás folyamata a legelejétől kezdve kölcsönhatás alapú. Én gügyögök, ő mosolyog, én rácsapok a csörgőre, az zörög, belerúgok a kutyába, megharap. Az LLM pedig ebben az értelemben passzív, bedobnak neki egy nagy adag forrást, de nincs interakció.
Hiv.: @val:
Kiváló felvetés.
Ha az én terminológiámban akarnám ugyanezt megfogalmazni, akkor azt feszegeted, hogy az emberi nyelv arról szól, ahogyan a világot leírjuk. Ha ebből tanul a modell, akkor szükségképpen kódolódik valamilyen implicit világmegértés. Ez a megértés-szerűség aztán begyűrűződik az LLM-ekbe („implicit világmodell”). És így aztán amikor egy LLM jól válaszol fizikai, társadalmi vagy logikai kérdésekre, az azért működik, mert a predikciós alapban ott lapul a világ logikája.
VISZONT
Grounding hiánya ott okoz problémát, hogy kellene közvetlen kapcsolat a valósággal (érzékelés, cselekvés, intencionalitás). Amíg ez nincs, addig a predikcióba csomagolt „világmegértés” csak tükrözött, másodkézből való. Mint a minapi kvantumgravitációs problémánál: nem mindegy, hogy mások kísérleteiről olvasol tudományos publikációkból, avagy te tervezel kísérletet, hajtod végre, vonsz le konklúziót.
TOVÁBBÁ
Ha azt mondjuk, hogy minden predikcióban van egyenrangú világmegértés, akkor elmosódik a határ, és a „megértés” szó kiüresedik. Akkor már nem világos, hogy mit jelent a különbség ember és gép között.
Hiv.: @nyulambator:
Nagyon erőseket mondasz.
IGEN:
Az emberi fogalmak nagy része tényleg társas mintákból tanulódik. Mi is, az LLM is a nyelvi mintákból szívja fel a rokonsági relációk logikáját.
Valóban nem csak visszamondás történik. Az LLM nem egyszerűen „memorizál”, hanem képes korábban nem látott kérdésekre is helyesen válaszolni, ami már valóban a „generalizáció” jele.
Az „interaktivitás hiánya” a legnagyobb aduász, ami felteszi a koronát az érvelésedre (hogy közhelyes képzavarral éljek). Nem pusztán „modalitás”, hanem az, hogy az ember a kezdetektől kölcsönhatásban van a világgal. Ez az „interaktív grounding” az, ami intencionalitást és belső motivációkat is kialakít.
VISZONT:
Simán meglehet, hogy csak szimplán rossz vagy nem elég erős az unoka-példám. Próbálok erősebbet mondani, rátéve egy lapáttal: Fájdalom és érzete. Marhára nem mindegy, hogy olvasok arról, hogy megkéselnek valakit, avagy belém vágják a kést. Nem mindegy, hogy horrorfilmet nézek, avagy a horrort effektíve átélem. A „csak technikai különbség”-et ez talán picit árnyalja.
Az embernél a fogalom-használat tapasztalattal grounded módon „be van drótozva”. Amikor te azt mondod „anya”, nem csak a szó mintázatát ismered, hanem rengeteg multiszenzoros élmény van mögötte, azaz ebből jön a valódi jelentés neked.
LLM interaktivitás – javítható, de attól még nem lesz ugyanolyan. Ha az LLM-et YouTube-videókkal, multimodálisan tréningezed, az valóban „gazdagítja” a mintákat. Ezt Yann LeCun-ék is csinálják. De ez még mindig csupán passzív megfigyelés, azaz nem ugyanaz, mint saját cselekvés, saját következmények. A valódi grounding akkor jönne, ha a modell aktívan manipulálhatná a környezetét és feedback-et kapna (robotikai, embodied AI).
tahonoli-hoz
.
Csak a bejegyzés végéhez pár szó: a múlt század végén gyakorlatilag hetente jelentek meg tanulmányok F. Jackson gondolatkísérletéről (Marika, a tudós, fekete-fehér szobájában mindent tud a szín fizikájáról, aztán amikor meglát egy piros rózsát a szobából kilépve, felsikít, jé, ilyen a piros!), amely a fizikalizmus korlátait volt hivatott bemutatni. Rajtam kívül emlékszik még valaki ezekre a tanulmányokra? Azt hiszem, ugyanez fog történni az MI „megértés”-problémával is. Két évtized, és teljesen elveszíti relevanciáját.