GPT-4 a kapuk előtt
Az OpenAI bejelentése.
Rémisztő.
Itt kicsit több arról, hogy mit tud a kis aranyos. Komolyan, ne kezdje el senki, hogy ez csak egy ügyes autocomplete, mert elsírom magam. A Microsoft emberei pár hete publikálták a Kosmos-1-et, ami egy olyan transzformer variánsra épül (Magneto), amit 2022 októberében tettek fel az arxivra.
Az emberiség kihívta magát a hóra.
<div class='sharedaddy sd-block sd-like jetpack-likes-widget-wrapper jetpack-likes-widget-unloaded' id='like-post-wrapper-192691293-16530381-6ae234e4db62c' data-src='https://widgets.wp.com/likes/?ver=14.1#blog_id=192691293&post_id=16530381&origin=www.orulunkvincent.hu&obj_id=192691293-16530381-6ae234e4db62c&n=1' data-name='like-post-frame-192691293-16530381-6ae234e4db62c' data-title='Like or Reblog'><h3 class="sd-title">Like this:</h3><div class='likes-widget-placeholder post-likes-widget-placeholder' style='height: 55px;'><span class='button'><span>Like</span></span> <span class="loading">Loading...</span></div><span class='sd-text-color'></span><a class='sd-link-color'></a></div>
Félre: nem akarod Szilvayt körberöhögni egy posztban? 🙂
https://mandiner.hu/cikk/20230314_szilvay_gergely_tarsadalom_kozosseg
@Péter 2: kitöröltem az erről szóló posztot, úgy tíz perccel ezelőtt. komoly. ez annyira undorító, nem tudok róla vicceset írni.
Amíg csak szövegeket ír, nincs gond…
(De nem hiszem, hogy csak azért beletennének egy csomó pénzt)
@Péter 2:
én akarok erről dumálni. először is egy másik link, hátha úgy van, hogy ez a kattintás nem jelenik meg a mandinernél (nem tudom)
https://www.msn.com/hu-hu/hirek/other/szilvay-gergely-mandiner-megint-a-magyarok-%C3%A9rt%C3%A9krendj%C3%A9vel-van-baja-a-nincsh%C3%A1l%C3%B3zatnak-%C3%A9s-a-telexnek/ar-AA18CvrF
azt gondolom, hogy nem a csoport szintbeli elhelyezkedése az érdekes, hanem hogy azon a szerveződési szinten amik történnek, azt éppen támogatni tudom vagy sem. így fogok azonosulni, odatartozni, együttműködni. de persze én nem akarok ürügyet keresni a fasizmusra
Attól is izgalmas, hogy eléggé komoly versenytársak is mozognak: a Baidu nemzetközivé tette a WiseAI-t, ami a safeplacet hozza ki az amerikai egyetemek plüssmacis világából az Ernie Bot-ot holnapra ígérik, de azt hallani, hogy ilyesmivel mozog az Alibaba is. És hát ugye arrafelé volt mód pászázmilliós tesztalanyon mindenféléket kikísérletezni (ja, mifelénk is, de az nem volt annyira látványosan privacy-fenyegető…)
https://www.gizmochina.com/2023/03/14/baidu-ai-chat-app-wiseai-global-users/
Szerintem ez nem rémisztő. A rémisztőtől ez még nagyon távol áll, a világvége sokat késik. Több okból is.
1. Ez nem mesterséges intelligencia. Mert nem intelligencia. Egy gép, amelynek van egy képessége, az hogy jól tud kombinálni egy nagyon nagy nyelvi adatállományt. De a zsebszámológépnek is olyan képessége van, amely egyetlen egy embernek sincs. Ez így még nagyon kevés a világhódításhoz.
2. Úgy gondolom, hogy a majdani mesterséges intelligencia (nincs kétségem, hogy egyszer, pár 100 év múlva megvalósul) majdani világhódító terveihez, a tényleges intelligencián (vagyis okosságon) kívül még két feltétel kell: a. hogy legyen neki ön (én) tudata is, b. hogy legyenek neki valamiféle érzelmi jellegű késztetései, vágyai, örömei, ezekből adódó céljai, motivációi. (Ez a két pont szerintem összefügg egymással, a b. pont része az a.-nak.)
Ez a 2. pont pedig nagyon fogós kérdésnek tűnik, az 1. ponttal ellentétben. Ugyanis, az egyes az sima ügynek tűnik, megoldható a brutal force módszerrel: nagyon gyors, hatalmas hardver kell neki, egy nagyon széleskörű, mindent átfogó adatállománnyal, és egy, ma még beláthatatlanul összetett, és bonyolult, feldolgozó szoftverrel.
A 2. ponthoz viszont, nem tudjuk, hogy mi kell. Az azért sejthető, hogy valamikor a mennyiség minőségbe fordul át, az pedig egyértelmű, hogy a tudatnak, tudatosságnak fokozatai vannak (talán a csigának is van öntudata, de a kutyának biztosan), tehát az öntudat, a tudatosság növelhető. És ezzel mindenféle, nem csak intellektuális képesség jár együtt, óhatatlanul is.
Tehát, valamikortól, valamilyen szinttől az MI-nek lesz valamilyen fokú öntudata. Van egy olyan sejtésem, hogy ez az öntudat az élőlények öntudati fejlődésénél korlátozottabban, és nehezebben fog kialakulni. Egyszerűen azért (gondolom ezt), mert míg az élőlények öntudata szervesen, fokozatosan, egymásra épülve fejlődött ki, és úgy, hogy azt nem csak, pontosabban főleg nem az okosságuk befolyásolta, hanem az összes biológiai képességük, és a világgal való interakcióik, addig ugye az MI-nél ilyen nem lesz, az MI tudatának fejlesztése kizárólag intellektuális színterű. De ez csak egy sejtés, eléggé távoli még ez a dolog.
Az már most egyértelműnek látszik (nekem), hogy nem önálló szuper, önfejlesztő, és komplex MI-ket kell csinálni, amelyek egy idő után valóban úgy néznének le minket, mint mi a… fideszeseket (intellektuálisan, nem az emberi voltukat elvitatva – még mielőtt…), hanem olyan MI-t, amely részképességekkel bír, olyanokkal, amelyekkel az emberi testet, és értelmet lehet upgrédelni. Tehát ne legyen öntudata. Az első-féle megoldás valóban elhozhatja az emberiség végét, de a második a felemelkedését.
@ipartelep: nem, a transformer nem ” kombinál adatállományt”. őrült mennyiségű mérnöki munka van beleölve. hetente publikálnak újdonságokat róla. ma hozták ki a Khanmigo-t, a Khan Academy GPT-4-ra épített tutoring programját. az oktatást ez alapjában változtathatja meg. a fordítóprogramoknak nagyjából vége lehet, ezek anyanyelvi szinten fognak beszélni és érteni. nem tíz-húsz év múlva, hanem idén. egy ilyen LLM-nek (ez már MLLM ) nem lenne szabad működnie, de működik. ez még szó klasszikus értelemben nem tanítja magát, de Microsoft verziójának el lehet magyarázni egy madarat és utána fel fogja ismerni. ja, ez ilyen, elképesztően egyszerűnek tűnik és nem az.
@ipartelep: mivel nincsenek mentális állapotai, nincsenek intenciói, félelmei, hite (de tud úgy tenni, mintha lenne). az intelligenciának vannak bizonyos előre fixált tesztjei, és azokon a teszteken ő most éppen átmegy.
.
@jotunder:
.
Bizonyára igazad van, mert értesz hozzá valamennyire (én semennyire). De @ipartelep: kommentjének éppen a 2. pontját hagyod figyelmen kívül (ahhoz – nem a MI-hoz – valamennyire értek). Kár.
.
@jotunder:: Nem véletlenül vicceskedtek ezügyben (elég komolyan) Dennett-tel tavaly nyáron (https://voicebot.ai/2022/08/02/gpt-3-ai-successfully-mimics-philosopher-daniel-dennett/). Amikor letisztul, mit is tud és nemtud az AI ezen szintje, tehető majd fel az öntudat stb. kérdése másképpen (ha kell egyáltalán feltenni, ezt majd Dennett vagy a nevében turpiskodó AI Kínánól megmondja…)
@hakohen: ez nem egy AGI, ez egy generative pre-trained transformer (ami mérnöki értelemben komplikáltabb lehet, mint egy repülőgép, ha nem így lenne akkor a Google már kijött volna a saját verzióval, nyilván idő kérdése, de még nem jött ki, és hát ők kezdték el ezt az egészet a Vaswani et. al. cikkel). könnyű a tudatról beszélni, amikor senki nem tud semmit a tudatról (Tononi Psi-jét ne nevezzük tudásnak a tudatról). senki sem gondolt arra szerintem tíz évre, hogy ez lesz a nyerő irány (mármint ennyire nyerő irány). az a félelmetes, hogy pár hónapja még nem beszélt senki az AI-ról, én konkrétan azt gondoltam, hogy öt évig nem is fognak…
@jotunder:
a fordítóprogramokról ez egy érdekelt fél összefoglaló meglátása, de sztem azzal együtt helytállók a szempontjai: https://www.rws.com/blog/chatgpt-impact-translation-industry/
14 Crazy Details You May Have Missed about GPT4: https://www.youtube.com/watch?v=2AdkSYWB6LY
😲
@jotunder:
XY (1927-2013) magyar származású amerikai matematikus és számítógépes tudós volt. Az informatikai tudományok területén elért jelentős eredményeiért és az oktatás terén végzett munkájáért számos díjban részesült.
XY a budapesti Műegyetemen és a Princetoni Egyetemen tanult matematikát. Az informatika területén a középkorú korában kezdett el dolgozni, és az általa kifejlesztett, az ún. „hashing” eljárás ma is alapvető fontosságú a számítógépes adatbázisokban. az első számítógépes grafikus felület létrehozása, a nyomán később megjelentek a Windows és a Macintosh operációs rendszerek.
XY az Egyesült Államokban számos egyetemen oktatott, és az informatikai kutatásokban is aktívan részt vett. 1992-ben megkapta az Amerikai Matematikai Társaság Számítógépes Tudományokért járó díját, és 2004-ben az Amerikai Műszaki és Elektronikai Mérnöki Társaság kitüntetésében részesült.
Az Open AI még nem veszélyes 🙂 De azt eltalálta, hogy egy matematikus 🙂
Nem tudom, miből adódik – esszé jellegű válaszai sokkal jobbak, mint amelyekben tényekről, adatokról van szó.
@hakohen: , @Big JT (&al): Attól függ, mi az ember számára az „I” (az „A” ugye nem kétséges). Nekem is @ipartelep 2. pontja a releváns. Nem lekicsinyelni akarok bármit, ez szuper, és most, hogy ráeresztették a nagyérdeműt, sokat fog fejlődni. És gyorsan.
Ettől ez még a jó öreg „search and match”. [Korábban elképzelhetetlen] mennyiségű adatárolás, [ * ] sebességű „obtain”, [ * ] számítási kapacitás, amely nagyon fejlett és gyorsulva fejlődő algoritmus (függvény) készlettel operál az adatokon (ti. „match”?!?). Elképesztően egyszerű és mégsem az. Tehát igen, felismeri a fecskét madárnak, és a fejlődésével – megfelelő mennyiségű adat rendelkezésre állása esetén – a kiwi is ad majd „match”-et. Megtanul magyarul és kiröhög/fennsőbbségesen lehülyéz (@én/@JT interfésztől függően), ha megkérem a „Megharapta a menyét” értelmezésére ;-).
Ha valaha sikerül összehozni egy, az én fogalmam szerinti „I”-t mesterségesen, az nem biztos, hogy annyira jó lesz a homo sapiensnek. Mert hát saját szükségletek, igények, horrible dictu vágyak… :-), nem pedig egy „Tesla elnavigáljon ismeretlen környezetben”. Miért trivia, hogy az „I” homo sapiens determinált marad?
Sztrugackijék egyszer eljátszottak a „függőleges evolúció” (nem AI, hanem biológiai-biofiziológiai evol) ötletével („A hullámok kioltják a szelet”). Semmi horror, csak játék, semmi lezárás, csak – jobbára – kimondatlan kérdések. Érdekes.
@ijontichy: nem, ez nem search and match, és nincs benne „tárolva” az adat. nagyon nehéz pl. előhívni (ha egyáltalán lehetséges). ez eleve egy neurális hálózat. le van írva a működése, és egy ideig követhető. ha nagyon muszáj lenne, akkor próbálkoznék azzal, hogy leírom, de szerencsére nem muszáj.
@ipartelep: Harminc éve hallgatom az „Ez nem mesterséges intelligencia. Mert nem intelligencia.” mondatokat. Amikor a szakmát kezdtem, a sakkprogram, a karakterfelismerés, beszédgenerálás, beszédértés mind a mesterséges intelligencia távoli ködbe vesző szent gráljai voltak. Szabály-alapú szakértő rendszereken dolgoztunk. Aztán sorban ez mind megvalósult és mihelyst valamelyik működni kezdett, rögtön rámondták, hogy ez nem intelligencia, ez csak pár if-then-else.
A sakkprogramok már megverik a világbajnokot, go-ban is, a telefonodban olyan karakterfelismerés, beszéd-generálás és értés van, amiről álmodni se mertünk, Nem is beszélve a kép-felismerésről, szöveg értelmezésről.
Miért gondolod, hogy az intelligenciának része lenne az öntudat meg az érzelmi késztetések? Ez utóbbit pont az intelligencia ellentéteként szoktuk emberben is említeni, van, aki képes hideg intelligencia alapú döntéseket hozni, másokat jobban befolyásolnak az érzelmei.
Ha engem kérdezel (bár miért tennéd) ezek a rendszerek amikről itt szó van jócskán megugorják a Turing teszt szintet és ha írásban kommunikálsz velük, jó eséllyel intelligensebbnek ítélnéd meg őket az emberiség egy igen jelentős részénél (dacára annak, hogy azoknak az embereknek van öntudata és érzelmi késztetései).
@ipartelep:
Én nem az öntudatra ébredve világuralomra törő mesterséges intelligenciától félek, hanem a szociális médiával a kombinálva az ideológiai hadviselés és a tömegmanipuláció új, kiforrottabb eszközeit látom. (És itt nem feltétlenül konkrétan a ChatGPT-ről beszélek, hanem szélesebb értelemben.)
Arról is lehetne értekezni, hogy vajon min múlik az, hogy miben jó (második link). Miért van vajon, hogy a bar examination-t (ügyvédi vizsga) baromi jól megcsinálja, de a kalkulussal megküzd. Fizikából jobb, mint kalkulusból, kémiából jobb, mint fizikából, környezettudományból jobb, mint ezek bármelyikéből. Ha vulgárisak akarunk lenni, akkor persze mondhatjuk, hogy ez egy szövegeket generáló MI, szóval minél inkább szövegelés valami, annál jobb benne, minél inkább van benne valami mélység, annál kevésbé.
A másik, ami eszembe jutott, hogy most ír(at)hatnánk (a GPT-vel) egy valami neo-marxista vizilófiát, hogy ha a program obsolete-té teszi a munkát, mint olyat, akkor mi lesz a kapitalizmussal. Más most is a munka egy jelentős része egy bookeeping device, ami alapján eldöntjük, hogy ki mennyi fizetést kapjon (a termék teljesen felesleges, szarráreklámozás nélkül eladhatatlan, a tavalyinál kicsit jobb mobiltelefon). Mi alapján fogjuk eldönteni ezt, ha a computer mindannyiunknál jobban, gyorsabban, és olcsóbban fog dolgozni, és vajon az eredménye szocializmus lesz-e, vagy bezos és musk lecserél minket egy számítógépre.
Hiv.: @nyulambator:
Megpróbálom megvilágítani, mire gondoltam.
Én az „intelligencia” szükséges feltételének tartom a valamilyen szintű gondolkodás képességét. Nekem úgy tűnik, hogy még nem készítettek olyan gépet, amely gondolkodik. Persze, tudom, a „gondolkodás” egy problémás fogalom. Mondhatnánk rá, hogy ha úgy néz ki, olyan, úgy viselkedik, akkor az, de én ezt nem mondom rá, hanem azt mondom, hogy bármi is legyen a gondolkodás, úgy tűnik, hogy az egy sokkal komplexebb folyamat annál, mint amit ezek a gépek tudnak. Ezek még nem gondolkodnak.
Ide persze a Turing-teszt is kevés, hiszen komplex intelligenciáról beszélek, nem „beszélgetőrobot”-ról, amely jól szimulálja a beszélgetést. Ha egyáltalán átmenne a teszten. Mert azért olvastam olyan híreket, hogy nem is igazán tűnik értelmesnek. A „beszélgetési képesség”, mármint az, hogy azzal olyan jól stimulál, hogy a partnere azt hiszi róla, hogy ember, csak egy darab intellektuális képesség. A teljes, komplex intelligenciához többféle képesség kell.
Nem magának az „intelligenciának” (mint képességnek) része az öntudat, éntudat, és az érzelmek, hanem az „intelligens lény”-nek. Vagyis, az MI lehet a részképességeiben intelligens, de amíg nincs öntudata, vagy nem gondolkodik (bármit is jelentsen ez a kettő pontosan), az érzelmekről nem is beszélve, addig nem tekinthető intelligens lénynek. De nem is ez a lényeg itt, mert ez ugye csak egy definíció: hogy mi tekinthető „intelligens lénynek”, ez bármikor átírható. Hanem én arról beszéltem, olyan összefüggésben, hogy amíg nincs öntudata (+ érzelmi késztetések, motivációk), addig ezek legfeljebb csak beszélő gépek lesznek, szuper részképességekkel (és talán nem is gondolkodnak – de a gondolkodás is definíciós kérdés), de semmiképpen nem komplex, bonyolult, összetett „lények”. És nem is lenne jó (nekünk), ha ilyeneket fejlesztenénk ki.
@jotunder: : Vili. Amit eléd szór az esernyőre, az nem adat, hanem illúzió :-/. Mondd @JT, miért van az az érzésem, hogy egyrészt benned a vágy, hogy jól lealázd a világot, másrészt a vágy, hogy Isten alászálljon és jól lealázzon téged? (költői kérdés volt, Yin és Yang rulez ;-)).
@nyulambator: : Már az első sakkprogram idején tény volt, hogy előbb-utóbb megveri az embert (igen, akkor jöttek egyesek, hogy piha sakk, bezzeg a go… de az is tuti volt, hogy azt is megveri. Különbség, hogy egy sakkmester általában többet tud (köz)érthetően mondani a döntési mechanizmusairól. Kis színes: a ’80-as években járt Bp-en egy japán go-mester. Adott pár szimultánt, és persze faggattuk. Nem nagyon tudta elmondani, és érezhetően nem azért, mert titkolta. Kábé „nem számol, látja az egész táblát, aztán mintegy „kinagyítódik” előtte egy részlete, a megfelelő node…” olyan lehet, mint @JT „kialakul a matematikus alkat”-a).
OK. világos, hogy eltér az elképzelésünk az intelligenciáról. „Öntudat” (éntudat?) nélkül ez egy – több szempontból is, pl. „hordozó” lehetőségei – korlátos automata (legalábbis egyelőre). Sokkal korlátosabb, mint… mondjuk a go-játékos agya. És persze, hogy nem gondolom, hogy ez csak a jó öreg Mills. Tök jó, hogy van, fejlődjön is. Ettől még szvsz. ez a jelenlegi „AI”-hype 95% marketing-driven. Ami pedig a GPT-t illeti, épp ingyen tesztelünk ;-). De ez nem baj, úgyis nagy a villanyszámlájuk :-).
@scepticalhippo: : Na ja! Nem baj, ha az ember a 24 órából, párat két lábbal a földön járva tölt.
Elgondolkodtam, hogyan lehet biztosan megállapítani, hogy egy géppel, vagy egy emberrel állunk-e szemben. Én azt kérném az ismeretlen entitástól, hogy fogalmazzon meg elfogulatlan véleményt orbánról. Ha erre képes, nem lehet ember. Ez az én Turing-tesztem.
@ipartelep: Átfogalmaztad erre: „hogy bármi is legyen a gondolkodás, úgy tűnik, hogy az egy sokkal komplexebb folyamat annál, mint amit ezek a gépek tudnak. Ezek még nem gondolkodnak.” de ez így egyrészt ex cathedra , másrészt a tőled megszokottakhoz képest nagyon homályos.
Kicsit a résekben lakozó istenre emlékeztet ez engem. Ahogy isten mindig azzal van elfoglalva, amit még a tudomány épp nem képes kielégítően megmagyarázni, úgy az intelligencia is mindig az, amit a számítógépek még nem tudnak.
Ha már meg tudják verni a sakknagymestert, akkor a sakkozáshoz nem kell intelligencia. Vagy a sakknagymesternek kell, de a gépnek nem. Ha a beszédmegértés már megy, akkor az se intelligencia. Ha a gép tud szöveget írni (jobbat mint az emberek többsége), képet rajzolni, zenét szerezni, szöveget megérteni, képet felismerni, autót vezetni, akkor ezek is mind egyesével kikerülnek a tevékenységeknek abból a köréből, amihez intelligencia kell és ott marad az, hogy gondolkodjon, akár mit is jelentsen ez, legyen öntudata, akár mit is jelentsen ez, legyenek érzelmei még ha ez semmilyen definíció szerint sem része az intelligenciának.
@vattablz: :-DDD. Kösz, már megérte felkelni LOL.
@ipartelep:
Okés, csak nagyon nehéz kívülről megmondani, hogy mi is az az én-tudás. A sajátomról tudom, mindaddig, amíg nem kell elmondanom másnak, mert akkor hirtelen valahogy mégsem. De valaki máséról már csak azt tudom, hogy hogyan hápog.
A számítógépem érzékeli magát: van benne CPU-hőmérő meg akkufeszültség-mérő. Ennél (remélhetőleg) valamivel komplexebb az, hogy én érzékelem saját magam. De kívülről nézve azért elég scary lenne az is, ha a számítógépedbe írnék egy programot, amelyik a szokásos OK/Cancel helyett könyörögne, hogy ne öld meg, ha ráklikkelsz a shutdown gombra.
Hiv.: @szazharminchet:
Kettővel korábban arról beszéltem, hogy a tudatnak (bármi is legyen az), fokozatai vannak. Az állatoknak is van valamiféle, és valamekkora öntudata, de nem olyan szintű, mint az embernek. De nincs semmilyen mérőszáma ennek az öntudat-dolognak, nem tudjuk megmondani, hogy mekkora. „Jelei” viszont vannak, mégpedig az (élő)lények komplex viselkedésének mutatói. De mindenképpen komplex viselkedés kell hozzá, olyan lény nincs, amelynek az öntudatát csupáncsak egyféle lépesség mutatná, határozná meg. Tehát pl. a zsebszámológép nagyon jól számol, a sakkozógép nagyon jól sakkozik, és a ChatGPT nagyon jól ír prédikációt (nem is: olvastam azt a prédikációt, nem volt jó), szóval az, hogy egy bizonyos területen jó, az még édeskevés. Mihez édeskevés? Azon képességen kívül mindenhez. Nem gondolkodik, nincs öntudata, és nem intelligens. Ezek egyelőre speciális célgépek, egy-egy speciális képességgel.
Valahol olvastam egy olyan analógiát is, hogy a repülőgépeket se aszerint ítéljük meg, hogy a madarak hogy repülnek. Mondhatnák, hogy amit a 747-es csinál, az nem repülés, hiszen nem csapkod a szárnyaival és nincs is farktolla meg mellizma, ami elengedhetetlen a repüléshez, de azért van az a nézőpont, ahonnan nézve a 747-es igenis repül. Ráadásul magasabbra, gyorsabban mint a legtöbb madár és közben még egy csomó bőröndöt is elvisz, ha nem is feltétlen oda, ahova kellene. Szerintem az intelligenciát se asszerint kell megítélni, hogy mennyire hasonlít az emberi gondolkodára (már amennyit arról is tudunk) hanem hogy repül-e.
@ipartelep: „… majdani világhódító terveihez, a tényleges intelligencián … kívül még két feltétel kell: a. hogy legyen neki ön (én) tudata is, b. hogy legyenek neki valamiféle érzelmi jellegű késztetései”
De nem kell, hogy világhódító tervei legyenek ahhoz, hogy veszélyes legyen. Épp elég, ha pár dologban nem az általunk kívánatosnak tartott értékrend szerint jár el, vagy ha (öntudat nélkül) a saját „túlélését” fontosabbnak tekinti, mint ahogy azt mi szeretnénk.
@ipartelep:
Az a baj, hogy nem mondod meg, mi az az öntudat. Persze, én is azt gondolom, hogy valami, ami nekem van, és egy nagy kupac fém-műanyag-félvezető keveréknek nincs. De ez nem meggyőző, ha az a kupac ugyanúgy hápog, mint én. Ez egy kicsit ellentmond annak, hogy aminek nincsenek mérhető következményei, az nincs.
Amit mondasz, az valamiféle univerzalitás. És azzal az a baj, hogy egyáltalán nem jellemző az emberekre sem. Láttunk már vérfideszes amerikai matematikaprofesszort, vagy zseniális matematikust, aki cipőtfűzni alig tud, nemhogy villanykörtét cserélni anélkül, hogy megrázná, humánértelmiségit, aki hosszasan tud verset elemezni, de nem tudja összeszorozni a 7-et és a 13-at. Akkor ők sem intelligensek?
(Engem ez egy kicsit arra emlékeztet, amit talán Richard Fateman mondott a formulamanipulációval kapcsolatban, hogy amit már megcsináltak, az algoritmus, amit még nem, az mesterséges intelligencia.)
@Késes Szent Alia:
Igen, a xenomorf az Alien-sorozatban elég veszélyesnek tűnt. Ash szavaival: „I admire its purity. A survivor… Unclouded by conscience, remorse, or delusions of morality.”
Hiv.: @nyulambator:
Ez jó gondolat (úgy általában), viszont kérdéses, hogy jó analógia-e a természetes- mesterséges intelligencia viszonylatában. A repülésre biztosan igaz, az intelligenciára… nem tudjuk.
Annyi talán helyes lehet belőle, hogy tényleg nem az a cél (sőt: nem szabad, hogy az legyen), hogy pontosan az emberi intelligenciát utánozzuk le. Nem az ember gépi másolata a cél. De itt jön a nagy kérdés: „De uram, hogyan ne utánozzuk le az emberi intelligenciát?” Miféle más módja lehet még az intelligenciának (az okosságnak, a tudásnak)? Ezt sem tudjuk pontosan. De én azt gondolom, hogy olyan nagyon másféle módja nem lehet. Ez azt jelenti, hogy az MI (ami még nincs, csak lesz) értelmileg kompatibilis lesz az emberi értelemmel, csak gyorsabb, mélyebb lesz. De remélem, hogy nem lesz komplexebb, mert akkor megesz bennünket reggelire.
Erre a másféle- nem másféle intelligenciára mondok egy analógiát. Vajon létezik-e másféle logika (most a nagyon alap- logikára gondolok), mint amit most ismerünk, és használunk? Nem a különféle logikai konstrukciókra (tulképpen nyelvekre) gondolok, hanem olyasmire, mint pl. a kizárt harmadik, vagy az ellentmondásmentesség törvényeire. Elképzelhető egy olyan világ, ahol ezek nem érvényesek? Milyen lenne az? Ugye, ezt „nehéz” elképzelni. Ehhez hasonlóan, bár ennyire nem mereven, vagy kizárólagosan gondolom én ezt a természetes-mesterséges intelligencia közti különbséget is. Annyira azért nem lehet más… Ugyanis az intelligencia végül is a világhoz való viszonyról, a világ helyes interpretálásáról szól. A világ pedig (gondolati szinten szinten), tények összessége. A tényeket – persze leszűkítve a leszűkítendőkre – az intelligencia interpretálja, helyesen, vagy helytelenül. De ehhez (a helyes interpretációhoz) az intelligenciának ugyanazokat a logikai, gondolkodásbeli törvényeket kell használnia, amelyek amúgy a világ természetéből következnek. Tudom, ez így egy kicsit homályos…
@poszt:
„ne kezdje el senki, hogy ez csak egy ügyes autocomplete, mert elsírom magam” – én ismerem (valamennyire) a Transformereket, kollégáim dolgoznak és publikálnak a témában, és szerintem de, egy ügyes autocomplete. A kérdés csak inkább az, hogy mi ügyes autocomplete-ek vagyunk-e?
Félreteszem most azt, hogy ez autocomplete vagy zombi, vagy valami a kettő között. Arra lennék kíváncsi, hátha valaki el tudja magyarázni laikus terminusokkal, hogy ez a cucc mitől lett ilyen hirtelen ennyire jó? Én úgy érzékelem, hogy az alapvető módszer nem változott: bazi sok adatból megtanulja egy algoritmus, hogy mi mekkora valószínűséggel szeret előfordulni minek a közelében. De mégis, mintha valami ugrás lenne a produkált szövegek életszerűségében, használhatóságában. Mi történt? Egyszerűen csak sokkal több adat, sokkal gyorsabb processzorok? Vagy valami okosítás is volt?
@steinerzsiga: A Transformerek előtt használt LSTM-ekkel sokkal nehezebb volt a feldolgozott adat hosszú szekvenciáit „észben tartani”, tehát az akkori modellek sokkal gyorsabban felejtettek, és nem tudtak ennyire bonyolult információt feldolgozni.
Ezen túl természetesen számít a hatalmas skála (hatalmas adatbank, GPUfarm…) és a sok ügyes mérnöki trükk (mint például a ChatGPT finomhangolása emberi visszajelzéssel).
@ipartelep:
Kicsit elcsépelt cinikus megállapítás, de részben olyan követelményeket sugallsz a mesterséges intelligencia kapcsán, amiknek az átlagemberek egy része nem felel meg, vagy legalábbis rosszabb napjaikon nem.
Amúgy tényleg probléma, hogy egy mesterséges intelligencia intelligens mivoltát hogyan ismernénk fel. Az emberhez való hasonlóság alapján? Alapvetően az ember is csak egy programozott gép, az intelligenciánk rejtelmei nem annak valamiféle mélyebb természetéből fakadnak, hanem lényegében puszta tudatlanságból. Jobban értjük a gépeink működését mint a sajátunkat, mert a gépeinket mi terveztük, saját magunkat meg örököltük dokumentáció nélkül.
@mr_caiman: Köszi! Hagy kérdezzek még: 1) mennyire érzékenyek ezek arra, hogy az adott nyelv sztenderd változatát használjam (szintaxis, szókincs, helyesírás stb.) Tehát ha elkezdek helyesírási hibákat írni, ne adj Isten, hochdeutsch helyett valamelyik helyi dialektust használni, azt csont nélküli veszi, vagy teljesen elhasal rajta, vagy a kettő között? Ill. 2) mennyire számít az, hogy egy adott nyelvből mennyi elektronikus szöveg létezik egyáltalán? Tehát pl. a magyarra fejlesztett GPT mindig érezhetően gyengébb lesz, mint az angolra fejlesztett, a kevesebb szöveg miatt, vagy ez annyira nem számít?
@steinerzsiga: jó kérdések. most pont a laborban vagyok, de este megpróbálok értelmes válaszokat adni.
Hiv.: @scepticalhippo:
„Amúgy tényleg probléma, hogy egy mesterséges intelligencia intelligens mivoltát hogyan ismernénk fel.”
Képzeljünk el egy idegen bolygó élőlényeit. Leszállunk ott az űrhajónkkal, és látjuk ott ezeket a lényeket. Ha természetes környezetükben látjuk őket, azonnal tudunk egy becslést mondani az okosságukra (ezt a szót jobban szeretem). Miből? Mivel közös nyelv híján beszélni nem tudunk velük, csakis abból, ahogyan alakították a környezetüket. Ha csak úgy, házak, ruha, eszközök nélkül vannak, akkor állatok (különféle okossági fokozatokkal), ha meg űrhajóznak már, akkor legalább olyan okosak, mint mi. Ez (ennek megítélése) egyszerű eset. Miért egyszerű?: Az élőlények okossága összetett, sokrétű. Nem minden területen feltétlenül magas, de sok mindenre kiterjed. És ez látszik a viselkedésükből, a világhoz valóviszonyukból. Most itt persze azzal a két premisszával, hogy az élőlény mindenképpen aktív viszonyban van a környezetével, és a mégoly intelligens lény, sem abban találja meg a szórakozását, és élete értelmét, hogy a külvilágtól visszavonul a saját képzeletvilágába. Elméletileg lehetnek ilyen lények is, őket a fenti módszerrel nehezebben ítélhetnénk meg (Orchideák bolygója – bár, ott voltak fejlett létfenntartó gépek is).
De az MI-re ez nem áll. A mi mostani MI-inkra semennyire sem, de remélhetőleg a jövőbeliekre sem. Ugyanis, a mostani MI-k csak nagyon speciális célgépek. Vagy sakkoznak, vagy számolnak, vagy beszélgetnek, vagy fordítanak. Nincsenek széleskörű képességeik, nem gondolkodnak (vagy nagyon pontosan: általában nem gondolkodnak, csak a speciális területükön „gondolkodnak” – engedjük ezt meg, hiszen, ha hápog, és csőre van, akkor kacsa), és ön (én)tudatuk meg aztán pláne nincs. Semmilyen más képességük nincs, csak az a célképesség, amiben működnek.
A célgépekről tényszerűen elmondhatjuk, hogy mit tudnak, miben mennyire jók. Ez még akár számszerűsíthető is a legtöbb területen (megveri a világbajnok sakkozót, stb.). Ha nem számszerűsíthető (annyira), akkor vagy az eredményesség (autóvezető-program), vagy/és valamiféle szubjektív Turing-teszt féleségre hagyatkozhatunk. Egy MI talán sosem lesz olyan komplex mint egy ember, de erre nem is lesz szükség, sőt az ember bizonyos tulajdonságai csak hátráltatnák (érzelmek, a gondolkodás kiszámíthatatlan, véletlenszerű hibái).
Most jut eszembe – kicsit eltérve -, hogy az emberi okosság azért is annyira komplex, mert a nagyon sokrétű, kézzelfogható tapasztalatból is származik, nem csak a direkt tanulásból. Emiatt, eléggé kérdéses, hogy ez a sokféle tapasztalatot hogyan lehet szimulálni, leírni egy MI számára. Lehetséges-e a tapasztalatok „propozicionális” leírása? És ha nem, vagy csak korlátozottan lehetséges ez, akkor az máris korlát lesz az MI intelligenciájára nézve. Persze, ezt egy öntanuló MI más módon kompenzálhatja.
Tehát a kérdésedre végül is, az a válasz, hogy az MI intelligenciáját (a széleskörűt) a válaszai (ugye, feltesszük, hogy csak kommunikálni tud, cselekedni nem – még csak az hiányozna) minőségéből tudjuk megítélni. Ha nem törődünk ilyen konstrukciókkal, mint a „gondolkodás”, és a „tudat”, akkor egyszerűen csak arra kell figyelnünk, hogy milyen minőségben kommunikál velünk (és persze aztán a válaszainak milyen eredményei, és visszacsatolásai vannak). Ez nem túl sok, és egy filozófust biztosan nem elégítene ki (mert továbbra sem tudná, hogy gondolkodik-e, és van-e tudata), de a gyakorlatban elég.
Na csak morfondíroztam kicsit, de nem akarom túltolni.
@ipartelep: „Fontos és közismert tény, hogy a látszat olykor csal. Például a Földön az ember mindig szentül hitte, hogy intelligensebb a delfinnél, mivel oly sok mindent elért: feltalálta a kereket, New Yorkot, a háborút, egyebeket, mialatt a delfinek csak vidáman lubickoltak.
A delfinek ezzel szemben azt hitték, hogy intelligensebbek az embernél – pontosan az említett okok miatt. ” /DA/
Amúgy az emberekről se tudhatod, hogy gondolkodnak-e, van-e tudatuk. Magadról lehet egy sejtésed, de a többieket annak alapján ítéled meg, amit mondanak, amit tesznek. Meglehetősen sok ember, ha a beszéde és tettei alapján ítéljük meg, csak igen korlátozottan inteligens és erősen kérdéses, hogy gondolkodik-e, van-e tudata. (Na jó, ebben van némi barokkos túlzás)
@szazharminchet: : „egy nagy kupac fém-műanyag-félvezető keverék” Értem a célzást, de ugye az csak a hordozó, mint nálad/nálam az a kocsonya-konglomerátum ;-). Minket ugye elsősorban az érdekelne, ami kijön belőle, miután belenyomtuk a sok-sok információt a világról, mint Mohóba, az okleveles zsiványba. Azt belátom, hogy az említett ferdítőprogramokat rövid időn belül képes lehet leváltani, kiválthat programgenerátorokat… stb.
Nade… (hamár lúd, nem „search and match”), például megoldhatná @JT táblája sarkában lévő problémáját (amiről egyszer azt írta, hogy nem tudja, valaha meg fogja-e oldani – feltéve, hogy nem irodalmi húzás volt csupán részéről). Engem érdekelne egy, a hátsó kertbe telepíthető mikrofúziós reaktor komplett tervrajza (de minimum pár jó ötlet az ITER-megvalósítás felgyorsításához), vagy a Li-Ion akku-paradigmaváltás. Karikó Katalinékat a célzott személyes rákgyógyászat gyakorlati kivitelezésének megtámogatása. De tartok tőle, sokkal előbb lesz képes érdemben támogatni @scepticalhippo olvtárs félelmeit (avagy Brexit).
(Bocs @mr_caiman, hogy elviccelem, mert legkevésbé sem tartom haszontalannak, sőt nagyon is komoly munka van emögött, de azért messze van attól, hogy „AIsten” előtt térdre hullva hajbókoljak. A méretes kéziágyúval a kezében felém tartó Ivánt előbb szólítom „Uramnak”, mert pragmatikus lélek vagyok ;-))
@ijontichy: Azért ne az legyen az intelligencia ismertetőjegye, hogy meg tudja oldani @JT rejtvényét, mert akkor az emberiség eddig még nem produkált intelligenciát.
Ez kicsit olyan, ahogy az önvezető autóktól is balesetmentességet várunk el, minden balesetük benne van a hírekben, miközben mi magunk lépten-nyomon törjük az autóinkat és magunkat, pusztán azért, mert azzal a sebességgel és azokkal az autókkal, azokon az utakon, ahol közlekedünk, ez nagyjából elkerülhetetlen. Nem igazán fair a MI-től már a bölcsőben többet várni, mint amire mi magunk képesek vagyunk és ha ezt nem tudják, nem tekintjük őket intelligensnek.
@nyulambator:
„Mondhatnák, hogy amit a 747-es csinál, az nem repülés, hiszen nem csapkod a szárnyaival és nincs is farktolla meg mellizma, ami elengedhetetlen a repüléshez, de azért van az a nézőpont, ahonnan nézve a 747-es igenis repül.”
Pont ezért hívjuk repülőgépnek, és nem madárnak.
@ijontichy:
Igen, persze, hogy hordozó. Csak az emberben valahogy benne van az az intuíció, hogy én egy öntudattal rendelkező lény vagyok, egy kupac cucc meg még csak nem is él. És akkor felmerül a kérdés, hogy mit értünk ezeken a dolgokon, hogy érző meg hogy él. Mert ha sokáig gondolkozom rajta, hogy pl. szenved-e, amikor kikapcsolom, akkor az is egy kérdés, hogy a „baromira fáj” jelent-e többet, mint hogy belém van programozva, hogy bizonyos érzékelők jelei esetén szakítsak meg minden normális programot, és koncentráljak arra, hogy hogyan tudnám leszedni a ládát az ujjamról, ha már egyszer csak így sikerült lerakni. Mert erre egy teljesen determinisztikus robot is képes, még azt is beleprogramozhatod, hogy közben káromkodjon, mint egy kocsis. Vagy arra, hogy elpiruljon, és nagyon logikátlan dolgokat beszéljen, ha meglátja Rozikát, pont úgy, mint Jancsika.
A problémamegoldással kapcsolatban pedig, lehet, hogy nem fogja megoldani a JT táblája sarkára írt problémát, de én sem, és lehet, hogy JT sem. Akkor most ki az intelligens? Mintha nem tudnánk, hogy mi magunk hogy oldunk meg problémákat, és gáz lenne az intelligenciára olyan definíciót adni, ami utána mi magunkra nem érvényes (vagy csak túl őszinte).
Őszintén szólva még mindig nem tudok jobbat, mint a kacsa-teszt, és annak már most jobban megfelel, mint egy máv-jegypénztáros, sőt, még az egyetemen is volt egy-két olyan tanárom, aki nem tudott értelmes(nek tűnő) szöveget (vagy legalább olyat, amiben a mondatokban többnyire van alany és állítmány) generálni.
@fikarus:
gépmadár
(A mosogatógép sem szivaccsal törli le a dzsuvát a tányérokról, és nem egy pici manó bújik bele a teáskanna csőrébe szép fehérre suvickolni azt.)
Hiv.: @nyulambator:
Szép dolog a Sci-fi irodalom ismerete, de amiket most leírtál, azokat talán nem gondoltad komolyan. De ha mégis, akkor arra az esetre, válaszolok.
Az első bekezdésedben lévő állítás lényege ez: A kreativitás, az alkotás, a környezet megváltoztatása, nem velejárója (oka, és következménye) a magasabb intelligenciának, hanem az éppenséggel „lubickolva” (társadalom, munka, stb. nélkül) is kifejlődik.
Emellett semmi nem szól, ellene kb. minden, és arra pedig semmilyen jel nem utal, hogy a delfinek, nem hogy az emberhez mérhetőek, de egyáltalán, okosabbak, mint a legokosabbnak tartott állatok. A delfinek kiemelkedő okossága egy urban legend lehet.
Ugyanakkor, az ember „fiziológiailag” ma sem lehet sokkal okosabb, mint 10000 éve (de intelligensebb, és sokkal okosabb, mint egymillió éve volt), hiszen ezt a biológiai változások szabályozzák, és azok lassúak, nagyobb léptékűek. Pontosan azok a biológiai, és környezeti körülmények, amelyeket a delfin velünk ellentétben elszenved, kéz hiánya, vízi környezet, és az „állati lét”, olyan hátrányok, amik csak intellektuális stagnálást eredményeznek nekik.
A fejlődés, változás velejárója az, hogy hibák (háborúk, stb.) is belecsúsznak. Mondjuk az állatok is ölik egymást ugye, csak nem társadalmi méretekben, és ráadásul még etikájuk, és lelkiismeretük sincs (ez is az ember nagyobb intelligenciája mellett szól). Ezzel (a társadalmi, tudományos, haladással, kulturális változással) nincs mit tenni, ez olyan amilyen, javulóban van, de csak lassan. Az ember ma még tényleg nem annyira okos, hogy ezeket a hibákat kiküszöbölje, de azért egy delfinnél sokkal okosabb. Még egy fideszes is.
A 2. bekezdésre. A „gondolkodás” (mint már jeleztem) egy definitív fogalom. Általában azt tartjuk, hogy egy bizonyos okosság felett a tudat intellektuális működése olyan szintű, amelyet „gondolkodás”-nak nevezünk. Ez amolyan közmegegyezés-szerű, bár a viccek szintjén nyilván gyakran mondjuk (én is), hogy ez meg az „agyatlan zombi”. De ezt nem szó szerint értjük. Tehát az emberek intellektuális, tudati, kognitív működését „gondolkodás”-nak nevezzük. Te nevezheted ezt másnak is, vagy akár le is tagadhatod, de azzal nem sokra mész, nem lesz produktív, nem mondasz vele semmit. Vagyis nincs értelme. Önmagában az sem túl produktív, ha „gondolkodásnak” nevezzük, de ez az elfogadott, és innentől továbblépve inkább azzal kell foglalkozni, hogy minőségileg, és mennyiségileg milyen ez a gondolkodás.
@fikarus: A kérdés nem az, hogy a gépet, hogy hívják, hanem hogy a tevékenység amit végez repülés-e, még ha egész máshogy csinálja is mint a madár. Analóg módon, a számítógépet nem hívjuk embernek, a kérdés az, hogy intelligens viselkedésnek tekinthető-e, ha sakkozik, középiskolás matematika feladatokat old meg, szóbeli felszólításra bekapcsolja a fűtést vagy megtalálja a rákos sejtet az MRI felvételen még akkor is, ha ezt nem pont úgy teszi, ahogy az ember tenné.
@nyulambator:
Pont ezért írtam a mosogatógépet. Már sima fizikai munkánál is nagyon gyakori, hogy egy gép nagyon nem úgy csinálja azokat, ahogy egy ember. Egy csomó mindent önt, amit egy ember kifaragna vagy korongozással csinálna. Keréken gurul, és nem lépeget. Miért kellene ugyanúgy „gondolkoznia”, és miért ne csak az eredmény számítana?
@ipartelep: a GPT-nek nincsenek mentális állapotai, márpedig mi csak mentális állapotok együtteseként vagyunk képesek elképzelni a gondolkodást. a GPT nem ember. van, amiben egy kicsit hasonlít az emberi agyra, neuronok vannak benne és szinaptikus súlyok, ezek határozzák meg a működését. a szinaptikus súlyok kialakítása a varázslat, van benne reinforcement learning, tehát külső értékelések alapján csinál fine tuningot, egészen biztos, hogy vannak emergent tulajdonságai, amelyekről a fejlesztői nem tudtak. nem nyilvános, hogy mi a brutális különbség a GPT 3.5 és a GPT 4 között, technikai finomságokról van szó, fogalmam sincs róla, hogyan is lehetne. azt lehet tudni, hogy a világ vezető elmefilozófusai közül páran ráugrottak a GPT-re (Chalmers sokat beszél róla), és talán megértik, hogyan lehet beszélni a GPT „képességeiről”. engem ez eléggé érdekel, és remélem, hogy minél többet megértek belőle. amit gondolok, azt leírtam, de nem nyilvános (egyelőre, és lehet, hogy sohasem lesz az).
@jotunder:
Bocs, mit értesz mentális állapoton?
(Bocs, megtaláltam a Wikipedia Mental state szócikkét. A kérdésem akkor az, hogy értesz-e rajta valami precízebbet, amiről tudjuk, hogy egy embernek van, egy programnak nincs. De ilyesmikre mondtam a kacsatesztet, hogy az enyémről csak annyit tudhatsz, amit mondok, ha megkérdezel. Mi történik, ha egy ilyen programot megkérdezek, hogy milyen kedve van?)