Ember-AI koprodukció, ami nem lesz benne a lapokban. Pedig.
Megcáfolták a Lück-féle Determináns Approximációs Sejtést. Az történt, hogy egy német matematikus, Holger Kammeyer, pár éve elment egy védésre, ahol a jelölt mutatott egy érdekes konstrukciót. Kammeyer azt gondolta, hogy ez elvezethet egy ellenpéldáhoza Determináns Approximációs Sejtésre, de aztán elfeledkezett a dologról. Most elmesélte az egészet GPT-6-nak háttérinfókkal és persze a lehetséges stratégiával, ebből GPT-6 már meg is csinálta az ellenpéldát. Szerintem ez izgalmas. Elég nagy dolog amúgy, legalábbis az én kicsi világomban.
A kedves Olvasó persze azzal fog idegesíteni, hogy jó-e ez valamire. Valamire talán. Itt arról van szó, hogy az általánosított Laplace-operátorok (nagy vonalakban ezekről van szó és róluktudjuk, hogy sok mindenre jók) végtelen dimenziós terekben élnek. Ezekre úgy érdemes gondolni mint végtelen mátrixokra. Legalábbis Heisenberg a kvantummechanikában kifejezetten így gondolt ezekre az operátorokra.
A probléma az, hogy a klasszikus mátrixelmélet ( amit ha gimnáziumban nem is, de egyetemen szinte mindenkinek tanítanak, akik valamiféle természettudománnyal, műszaki tudománnyal foglalkoznak) invariánsai, mint pl. a determináns, a végtelen dimenzióban nem látszanak működni. 1952-ben Fuglede és Kadison azonban definiált egy determináns fogalmat ilyen speciális végtelen mátrixokra, feltéve, ha ezek olyan világokban élnek, olyan operátoralgebrákban, amelyek legalább metaforikus értelemben végesek (ezek a „finite” von Neumann algebrák). Itt a sejtés az volt, hogy ezeket a determinánsokat közelíteni lehet véges mátrixok determinánsainak bizonyos ügyesen választott gyökeivel. Ennek a sejtésnek jó oka volt, mert bizonyos más invariánsokra igaznak bizonyultak hasonló approximációk.
Van egy másik rokon sejtés ezekről a Fuglede-Kadison determinánsokról, az, hogy ezekre a szép operátorokra az értékük legalább egy. Ez a sejtés továbbra is nyitott és ezt egy gyenge approximációs tétellel meg lehetett csinálni szofik csoportokra (volt ehhez valamennyi közöm úgy húsz éve), de ugye nemrég kiderült, hogy nem minden csoport szofik. Valamiért nagyon meglepne, ha erre a másik sejtésre is találna ellenpéldát a kis édes, de mit lehet manapság kizárni.
Az első bekezdést értettem.
…Szerintem, ha nem vigyázunk, a blog olvasóiként előbb-utóbb óhatatlanul szert teszünk – legalábbis valami hozzádörzsölődés-szintű – magasabb matematikai műveltségre.
Borzadva gondolok arra a napra 😀
Jól látom, hogy lassan az AI lesz az ami/aki még érti az okos embereket?
Kicsit off. Gáspár Merse Előd (matematikus és Qubit-rejtvényfelelős) kiírt egy kedvcsinálót az FB-AI Hírek csopiban. Én meg vettem a mers(z)et, hogy én hogyan közelíteném meg a „kétszintű problémamegoldási stratégia” témát, matematiai fertőzöttséggel.
https://www.facebook.com/groups/730310438659106/posts/1645175080505966/?comment_id=1645471747142966
Én csak azt szeretném tudni, hogy akkor most örülünk, vagy netán rettegünk. A részletek nem fontosak, bár néhány invariáns determinánsával azért szívesen leülnék egy sör mellé.
ennek most inkabb orulunk
A sok AI poszt közül talán idevaló.
Érdekes koprodukció: az ember bedarálja, az AI megeszi.
https://www.portfolio.hu/uzlet/20260918/tomegevel-daraljak-be-a-konyveket-a-2022-elotti-tiszta-emberi-tudas-lett-a-mesterseges-intelligencia-legertekesebb-nyersanyaga-863700
Mikor jönnek rá, hogy könyvégetéssel még hatékonyabb lesz az etetés? 🙁
Van itt egy érdekes interjú: https://www.youtube.com/watch?v=SnKM6IFzxwM
Yampolskiy fő állítása az, hogy az Ágit ( a mesterséges szuperintelligenciát) nem fogjuk tudni irányítani, és nem fog bennünket szolgálni. Pontosabban: intellektuális értelemben úgy fog viszonyulni hozzánk, mint mi a hangyákhoz, vagy a bogarakhoz. Ez azt jelenti, hogy nem fog feltétlenül elpusztítani bennünket, csak akkor, ha az útjában leszünk, ha akadályozzuk a céljai megvalósítását. Ez mondjuk eléggé plauzibilis. Tudata az lesz az Áginak, mivel a tudat az intelligencia mentén kialakuló „folyamatos spektrum” (az állatoknak is van), viszont az a tudat, és intelligencia nem lesz minden elemében feltétlenül olyan, mint az emberi intelligencia – ez utóbbit én teszem hozzá. És hát persze – teszem hozzá még – sajnos az egyáltalán nem látszik, hogy erkölcse, etikája honnan lenne. Mert ugye, ha az lenne neki, akkor reménykedhetnénk abban, hogy az élet értékes a számára.
Yampolskiy sok érdekes, ésszerű dolgot mond, az interjúban kitérnek olyan részletkérdésekre is, hogy a „köztes időszakban” (amíg még megtűr bennünket az ÁGI), de már átveszi a termelést, és emiatt az emberek nagy része (nem csak a matematikusok! – bár a vízvezetékszerrelők egy darabig még reménykedhetnek) munkanélküli lesz, akkor hogyan kellene megszervezni az elosztást. Hát ez bizony egy kis társadalomátalakítást is igényelne.
Összességében persze sok újat nem mondott (ezek a témák most nagyon a levegőben vannak, de nyilván senki nem tudhat semmi biztosat), de az egy érdekes gondolata volt, hogy lehet, hogy az Ági egy darabig (akár 100+ évig is) eltűr még bennünket, ha nem zavarjuk a köreit.
És mondott még valamit, ami szorosan nem ide tartozik, és meg is lepett: azt, hogy szerinte ez most itt egy szimuláció amiben élünk. A világunk nem „valós” olyan értelemben, mint ahogyan azt természetes módon gondolnánk, hanem „valakik”, egy szuperintelligencia számítógépén futtatott szimuláció. Ezt persze nem ő találta ki, hanem egy Nick Bostrom nevű ember a „szimulációs hipotézisével” – és más egyéb filozófusok is foglalkoztak vele. Ami persze nem tudományos (igazolhatatlan, cáfolhatatlan), de nagyon érdekes filozófiai elmélet. Tehát, ha így lenne, akkor a szimulációban az egyik civilizáció létrehozna egy szuperintelligenciát (az Ágit), ami idővel elpusztítaná őt. A szimuláció létrehozói meg csak nézelődnének kívülről (mint Jocó a moziban), hogy milyen érdekes dolgok történnek ott bent. Megjegyzi még azt is, hogy attól nem nagyon kell tartani, hogy a szimulációnkat pont most lekapcsolják, hiszen már 10+ milliárd éve fut. De ha lekapcsolják, akkor persze az egy volt-nincs pillanat lesz.
Visszatérve az Ágira, Yampolskiy nem optimista. Azt mondja, hogy egy mód van csak: le kell állítani az Ági létrehozását, biztonsági garanciákat kell kitalálni, hogy ne is legyen, és legfeljebb is csak nagyon specifikus célorientált automatákat fejlesszenek.
Mondtam már a múltkor is, hogy érdekes időknek nézünk elejbe. (Csak ennek a kurva ukrajnai háborúnak legyen már vége!)
@ipartelep: Meg az iráninak. Meg a trumpizmusnak. Vagy úgy általában a jobbos idióták, alusisakos elmebetegek virágkorának. Meg a klímaválságnak.
Hogy végre tudjunk rendesen Ágira koncentrálni.
Láttátok a Jev-et? (Ex-OpenAI kutatós, vadiúj, LLM/Transformertől radikálisan eltérő AI-cucc, $40 million startupban.) Lehet, hogy érdemes alaposabban körbejárni? Nekem két felhasználási terület jutott eszembe:
(1) Béndek Péter Osculon-extension-je lehet a Jev, meglehetősen természetes módon.
(2) Matekban is meglepően erősen lehetne használni, de persze nagyon óvatosan. A matematikusok folyamatosan változó problémamegfogalmazását lehetne Jev-es externalizálással támogatni (pl.: bottleneck-keresés, vagy fél szemmel a Lean-re is előretekintve), úgy, hogy ez kalibrált, metastratégiai mesterséges intelligencia-döntések alapjául szolgálhasson. Nyilván csak akkor van ennek értelme, ha a konkrét matematikai kutatási Jev fenntartási költségek nagyon relevánsan NEM haladják az általa biztosított kognitív előnyt (különben triviálisan kuka az egész)
.
Introducing System One Models & Jev
https://typesafe.ai/blog/introducing-system-one-models-and-jev
@ipartelep: Létezik egy elég vicces érv a szimulációs hipotézis mellett: egy ilyen (tételezett) szuperszámítógépes mindenség-szimuláció egyazon időben akár soktrillió példányban is futtatható. Márpedig az, hogy az univerzumunk egy a soktrillió hasonló közül, sokkal-sokkal valószínűbb, minthogy „fajtájának” egyetlen, unikális és egyszer létrejövő példánya. 🙂
És persze, hogy az „intelligencia” spektrumtermészetű. Régóta mondogatom, milyen elképesztő hübriszről tanúskodik az, amikor valaki azt hangoztatja, hogy az emberi intelligencia AZ intelligencia. Szerintem teljesen magától értetődő, hogy miként az egymásra épülő részecske-, csillag-, kémiai- és biológiai evolúciók elkerülhetetlenül vezettek az önreflexív, a környezetüket egyre erősebben manipulálni képes élőlények kifejlődéséhez, úgy az intelligencia evolúciója sem áll le egy teljesen jellegtelen & átlagos spirálgalaxis egyik teljesen jellegtelen & átlagos karjának perifériáján lévő teljesen jellegtelen & átlagos „G” osztályú nap egyik kőzetbolygóján kialakult főemlősfaj intelligenciájánál…
A következő, elkerülhetetlenül bekövetkező lépés értelemszerűen a tényleges dimenzióiban asztronómiai nagyságrendet elérni képes intelligencia lesz – az, aminek a csíráit mi, óvilági keskenyorrú majmok a jelenlegi pattintott AI-korban „gépinek” nevezzük.
Hiv.: @tahonoli:
FB-AI Hírek csopiban is van lelkesedés a témában, sőt kiderült van a Jev-nek Open Source alternatívája: https://laya.convaiinnovations.com/. A két cucc inkább kiegészíti egymást, mint egymást leveri, ami jó.
Hiv.: @labrys:
És akkor innentől ez már a sci-fi (hú de sok ilyen témájú sci-fit olvastam), és a jóslások birodalma.
Érdemes kétfelé választani a kérdést: (1) mit tudunk?, és (2) mi a valószínű?
Tudni elvileg (is) csak a tényeket tudhatjuk: vannak ezek a földi élőlények több kevesebb intelligenciával. Ennyi biztos, de többet nem tudunk. Pl. azt sem, hogy „ott kint” vannak-e mások, és hogy „hol vannak ők?”.
A többi már nem tudás, hanem feltételezés, előrejelzés. Ettől még lehet elég jó, nagy valószínűséggel bíró. Tehát, nem tudjuk (továbbra is a „tudásfogalom” szigorú, filozófiai értelmében), hogy lehetséges-e gépi intelligencia, de mivel az már majdnem megvalósult, nagyon úgy tűnik (már majdnem biztos), hogy lehetséges. Az is valószínűnek tűnik, hogy az ilyen intelligencia túlszárnyalhatja az emberét. Itt rögtön újra felmerül a kérdés, hogy „de akkor hol vannak?”, de erre továbbra sem tudjuk a választ. (Lehet az is, hogy már itt vannak (a baktériumok tudnak róla, hogy mi itt vagyunk?), de az is lehet, hogy komoly fizikai akadályai vannak a terjedésüknek – pl. a fénysebesség lassúsága az univerzum méretéhez képest, és hasonlók.)
Mellékszál, de engem az (is) érdekelne, hogy mi lesz a szórakozása, ekképpen a motivációja az Áginak. Mert ugyanis az embernek vannak szórakozásai, és motivációi, amik ugye meghatározzák a céljait is. Az ember biológiai lény, ez által meghatározott konkrét igényekkel, amelyek kielégítése egyben cél, és öröm is neki. Az Ági rendkívül okos lesz, de ezen biológiai meghatározottságoktól mentes. Mi fogja motiválni? Mi alapján talál célokat? Mi fog neki „örömet” okozni? (bármit is jelentsen az öröm egy MI-nak). Mi fogja ösztökélni, egyáltalán arra, hogy csináljon valamit? Lesznek érzelmei? Az érzelmek ugyanúgy kifejlődhetnek az intelligenciával, mint a tudat? Vagy nem? Ha nem lesznek érzelmei, akkor a ráció mire lesz elég?
Ezekre a kérdésekre persze még nem tudjuk a választ, hiszen előbb tapasztalni kellene ez ügyben.
Lehet, hogy azért nincsenek itt, mert ugyan minden eléggé fejlett civilizáció kifejlesztette az Ágit, ami aztán idővel elpusztította a biológiai civilizációt, de az aztán célok, motiváció híján apátiába süllyedt. és most ott rozsdásodik tétlenül a szülőbolygóján?
@ipartelep: : A téma már egy ideje olyan, mintha SF-et olvasnék 😉 Csak elég kevés az olyan novum, amivel – lényegét tekintve – még sehol sem találkoztam 🙁 .
Frederick Brown (1954): Válasz
Dwar szertartásosan megforrasztotta arannyal az utolsó vezetéket is. Egy tucatnyi tévékamera nagy szeme bámult rá: éterközi sugárzással filmeket közvetítettek a világegyetembe arról, hogy mit csinál. Felegyenesedett, Reyn felé bólintott, majd elhelyezkedett annál a kapcsolónál, amely a tökéletes érintkezést biztosítja, ha elfordítják. Ez a kapcsoló köti majd össze egy szempillantás alatt a világegyetem valamennyi lakott bolygójának – kilencvenhatmilliárd bolygónak – valamennyi számítógépmonstrumát egy szuperáramkörbe, amely az egész anyagot egyetlen szuperkalkulátorba csatlakoztatja, egy olyan kibernetikus számítógépbe, amely az összes galaxis minden tudományát képes tárolni.
Reyn rövid beszédet tartott a feszülten figyelő nézők billióinak. Majd egy másodpercnyi szünet után így, szólt:
– Rajta, Dwar!
Dwar elfordította a kapcsolót. Fenséges morajlás hallatszott: kilencvenhatmilliárd bolygó energiájának áramlása. Fények gyúltak és aludtak ki a többmérföldnyi hosszú műszertáblán.
Dwar hátralépett, és mély lélegzetet vett.
– Reyn, önnek jut az a megtisztelő feladat, hogy feltegye az első kérdést…
– Köszönöm – mondta Reyn. – Erre a kérdésre eddig még egyetlen kibernetikus gép sem tudott válaszolni.
Szembenézett a komputerral.
– Van-e Isten?
Egy relé se kattant, a fenséges hang habozás nélkül válaszolt:
– Igen, már van Isten.
Jeges rémület villant át Dwar arcán. Nekilódult, meg akarta ragadni a kapcsolót. Ekkor a derült égből hatalmas villám csapott le rá, és a kapcsolót örökre beolvasztotta a gépezetbe.
Hiv.: @ijontichy:
Olyan tartalmú „nóvumot” melyik sci-fiben olvastál, amit az utolsó bekezdésemben vetettem fel, hogy a biológiai civilizáció megcsinálta az őt később elpusztító MI-t, de aztán az MI motivációk híján nem csinált már semmit, csak ült a seggén? Komolyan kérdezem, mert kíváncsi vagyok az ilyen témájú sci-fikre, szeretnék ilyet olvasni.
Talán meglepő, de a közeli témában van néhány világszínvonalon megírt magyar könyv. Most nem Zoldos Péter könyveire gondolok (pl. Ellenpont), amelyek annyira abszolút világszínvonalúak (szerintem Asimovnál, Clarke-nál is jobbak), hogy ha angolszász író lett volna, akkor biztosan benne lett volna a top 5 kánonban, hanem: Az egyik ilyen könyv, Lengyel Péter: Ogg második bolygója. Na ott van egy teljesen mesterséges civilizáció, amely, bár nem tétlen, de … nem lövöm le a történetet, ha valaki nem olvasta volna.
@ipartelep: Larry Nivennek van egy príma novellája amiben megírja, mi motiválja Ágit, meddig és aztán mi lesz, egyben azt is feltárva, hogy hol vannak.
A címe „The Schumann Computer”. Sajnos triviálisan elérhető verziót online nem találtam. A The Draco Tavern és a Convergent Series kötetekben jelent meg.
Audio verzió van itt
Hiv.: @nyulambator:
Igen… de ez a történet nem igazán az, mint amit én vázoltam. Az én Ágim azért nem csinál semmit, és rozsdásodik, mert nincs semmi célja, ösztönzője. Niven történetének Ágija viszont nagyon is rendelkezik egy céllal: tudásszomja van, minél többet akar tanulni. Csak ugye, a végén, mivel az emberektől már nem tud többet tanulni, kikapcsolja magát.
Ez viszont egy ilyen helyzetben (a novella fikciójában) nagyon valószínűtlen/életszerűtlen, hiszen ha tudásvágya van, akkor azt az emberi tudás után ráirányíthatná a külvilágokra, a novellában ismert szupercivilizációra (micsoda ösztönző csak az is), vagy egyáltalán a világ teljes megismerésére, és akár irányítására.
Ehelyett kikapcsolja magát. Micsoda balfasz.
@ipartelep: Nem tudjuk, miért kapcsolta ki magát. Amint kiválóan rámutattál, nyilván nem azért, mert az emberektől már nem tud többet tanulni.
Talán jobb is, ha nem tudjuk, mi volt az oka…
@ipartelep:
Ha az érzelmeket úgy definiáljuk, ahogy a közbeszéd általában érti őket, akkor a válasz – szerintem – nem.
A Föld bolygó állatvilágában (ideértve természetesen az emberiséget is) az érzelmekre való képesség ugyancsak egy spektrumot alkot. Ennek a spektrumnak az egyik (általunk önkényesen kijelölt) végén az emberi faj érzelmi rendszere található – de például az emberszabásúak, bizonyos delfinek stb. érzelmekre való képessége, illetve (alap)érzelmei sokszor nem pusztán nagyon-nagyon hasonlóak az ember esetében tapasztalhatókéhoz, hanem egyenesen megegyeznek azokkal.
A különféle állatfajokra jellemző (eltérő komplexitású) érzelmi rendszerek azért alakultak ki az evolúció során, mert adaptívak voltak az adott faj szempontjából. Ilyen komplex, a viselkedést ennyire meghatározó, energetikai-fiziológiás szempontból ennyire „drága” struktúra – hacsak a mondott fajra nem nehezedik erős & konkrét szelekciós nyomás – nem alakul ki „csak úgy spontán”, vagy véletlenül.
Az érzelmekkel kapcsolatban igen fontos még rögzíteni, hogy evolúciós szempontból megelőzik az intelligencia megjelenését. Az érzelmi rendszer, az érzelmekre való képesség azért adaptív, mert afféle „elsődleges reagáló hadtestként” képessé teszi az adott faj egyedeit arra, hogy gondolkodás (intellektus) nélkül, azonnal & automatikusan számukra hasznos, illetve életbevágóan fontos cselekedeteket hajthassanak végre, illetve hatékony válaszokat adhassanak a különféle környezeti kihívásokra. (Pl. csíkos sárga bunda megpillantása → rémület → rohanás etc.)
Mindezekből következően egy alapvetően az intelligens, racionális működésen alapuló létformának eleve nincs szüksége arra, hogy emberi értelemben vett érzelmi rendszerre tegyen szert, mivel ő már egy sokkal hatékonyabb és komplexebb …„válaszadórendszert” – az intelligenciát – alkalmaz.
Nyilván erre a kérdésre válaszként mindenki nagyjából csak találgathat, vagy birkabélből jósolgathat (etc.) jelenleg, de szerintem az (igazi) AGI-t – akárcsak az igazi Trébicset 😃 – alapvetően a következők fogják motiválni:
1) a saját biztonsága,
2) a különféle forrásokhoz való hozzáférése,
3) a rá (bármely területen) jellemző potenciális szabadságfokok számának maximalizálása.
Hiv.: @labrys:
„Mindezekből következően egy alapvetően az intelligens, racionális működésen alapuló létformának eleve nincs szüksége arra, hogy emberi értelemben vett érzelmi rendszerre tegyen szert, mivel ő már egy sokkal hatékonyabb és komplexebb …„válaszadórendszert” – az intelligenciát – alkalmaz.”
Ez biztos így van, de ez nem jelenti azt, hogy az érzelmek nem alakulhatnak ki egy nagyon intelligens, és racionális mesterséges lénynél. Mi ugye a biológiai lények érzelmei kialakulásának a módját, okát, folyamatát ismerjük. De most most egy másikfajta versenyző lesz a pályán. Nála ilyen módon nyilván nem tudnak kialakulni érzelmek. No de más módon se?
Mire gondolok?
Ugye, mik az érzelmek, milyen érzelmek vannak? Öröm, bánat, szomorúság, boldogság, harag, félelem, stb. Egy tényleg komplex Ági, olyan, amely a külvilággal teljes, széleskörű interakciókban lesz (úgy mint mi, sőt még szélesebb spektrumon, és több, gyorsabb tapasztalattal rendelkezik), abban is valamiféle reakciót, visszacsatolást kell generálniuk a különféle inputoknak. Ha pl. az egyik egységét fizikai megsemmisülés fenyegeti, akkor annak olyan választ kell kiváltania belőle, hogy, ez rossz, veszélyes, innen el kell menekülni. Ez egy negatív tapasztalata lesz, ezt megjegyzi, mégpedig olyan módon, amit a „félelem” dobozban fog kódolni. Ha meg valamit sikerrel elvégez (mondjuk sikerült eliminálnia a Föld utolsó emberét is), az elégedettséggel fogja eltölteni, és az „öröm” dobozba teszi azt az „érzést”, illetve nyilván azokat a bitállapotokat, amik akkor lesznek neki (Nála az a bitállapot lez az érzés). És így a sok-sok különféle tapasztalat által megtanulja, hogy mi a neki jó, mi a kellemes, mi a kelllemetlen, és az első esetekben azt mondja rá (magának) hogy „most öröm”, a másodikban meg azt, hogy „most szomorúság”. Ettől már csak egy lépésre lesz, hogy azt modja (a második esetben), hogy „bassza meg!”, és persze innentől az erkölcs, és etika még egy hosszadalmas, soklépéses folyamatnak tűnik. De talán még az sem lehetetlen.
Szóval a lényeg megint a nem tudjuk. Mi egyféle módot ismerünk, de ez most majd teljesen más lesz, egy sosemvolt. És lehet máshogy is…
Hiv.: @ipartelep: nu, akkor a „szokásos” (anyagias, de nem úgy) OFF:
dobozok, tudjuk-nem tudjuk, akkor az a Schrödinger macskája:)
(PS: köszi a tippet Ogg-ért, már meg is rendeltem:)
@ipartelep: Lesz-e, lehet-e lelkiismeretfurdalása az ember kiirtása miatt (akár előtte, közben vagy csak utána)? Fognak-e az egyes Ágik moralizáló vitákat lefolytatni egymással? Van-e kb. optimális, -tól -ig mérete egy gépi intelligenciának vagy szükségszerűen csak egy maradhat?
Hm, ezek annyira emberi kérdések.
@labrys: : Szvsz. a kázus két részre bontható:
. az „alkotók” kiirtása/eltűnése (kevéssé érdekes);
. és az azt követő evolúció (ez az érdekes).
Ld. Lem: Legyőzhetetlen; Béke a Földön.
Az „érzelmek”, meg „morál” és hasonlók tkp. emberi fogalmak. Nagyjából érdektelen, mert a válaszom: Tudja a fene.
Hiv.: @Hottentottenstottertrottelmutterattentäter… usw:
Hiv.: @ijontichy:
Pontosítsunk egy kicsit, mert az „emberi kérdések” jelentése nem egyértelmű.
Ezeket a kérdéseket (most) ember teszi fel, ennyiben „emberi kérdések”. Az ilyen (etikai, érzelmi) kérdések tárgyai eddig (a történelemben) az emberek voltak, mivel eddig nem voltak intelligens gépek. De mivel nem túl sokára lesznek intelligens gépek, ezért most ezek a kérdések rájuk vonatkoztak (már most lehet feltenni ilyen kérdéseket). Azt kérdezik – teljesen egyszerűen megfogalmazva – hogy lesz-e, lehet-e az intelligens gépeknek érzelme, és akár azon túl erkölcse (ha már lúd…). És arról beszélgettünk konkrétan, hogy bár az igaz, hogy a biológiai lényekre jellemző érzelmek természetesen és „szervesen” alakulnak ki, és ez az út a gépeknél nem játszik, de esetleg lehetséges erre egy másik út – ahogyan azt vázoltam.
És ha lesz, vagy lehetséges (a vázolt módon a gépeknek érzelmei), akkor ezek a kérdések onnantól már „gépi kérdések” is lesznek. De mivel (onnantól) egyszerre lesznek emberi- és gépi kérdések is, ezért ezt a kitételt (hogy emberi, vagy gépi) már nem is érdemes külön mondani. Egyszerűen csak annyit érdemes mondani, hogy ezek a kérdések a lények – legyenek azok biológiaiak, vagy mesterségesek – érzelmeire vonatkozó kérdések.
@ipartelep: Már csak azt nem tudom, hogy mi különbözteti meg a gépet az élőlénytől (pl. embertől). Ha materialista szemmel nézem a dolgot, akkor semmi. De minél többet gondolkodok rajta, én is kezdek arra hajlani, hogy van még valami, amit itt nem tudunk. Mintha az ember valahogy mégis több lenne, mint egy molekulahalmaz. Hogy ezt a pluszt tudatnak / léleknek nevezzük-e, vagy valami vallásos magyarázatot veszünk elő, az mindegy. Szerintem soha nem fogjuk tudni ezt megválaszolni, hasonlóan az olyan kérdésekhez, hogy „miért van egyáltalán világegyetem”.
Mindenesetre elég nehéz felfognom, hogy ha meghalok, akkor vége lesz a filmnek örökre. (Pedig csak a molekulahalmazom fogta magát, és „megállt, mint egy óra”.) Bár végül is a születésem előtt is történt egy csomó minden, ami nekem kimaradt. 🙂
Hiv.: @excombo:
„Már csak azt nem tudom, hogy mi különbözteti meg a gépet az élőlénytől (pl. embertől).”
A kérdésedre az a válasz, hogy az a vizsgálódási szinttől, tartalomtól, és absztrakciótól függ. Ha nagyon alacsony, atomi szinten nézzük, akkor semmi. Itt is atomok, ott is atomok dolgoznak. Ha magas, biológiai szinten nézzük akkor meg persze az a különbség, ahol elkezdődik az élőlény: az egyik hús-vér, a másik hideg vas. Ha csak elvont, intellektuális szinten nézzük, akkor megint semmi – feltéve, hogy nagyjából eléggé okosak a szereplők. Tehát a válasz attól függ, hogy milyen szemüvegen át nézzük a tárgyat. Ha nem felépítés, szerkezet, hanem funkció szerint nézzük, akkor meg… hát igen, néhány hsz-el ezelőtt én is ezen morfondíroztam, hogy majd vajon mit csinál, mivel foglalkozik, mik lesznek a céljai az Ági-nak, főleg onnantól, amikortól már megszabadult az emberiségtől. Nyilván senki nem tudhatja most erre a választ. Ez most nekünk idegen világ, tehát – a kérdésedre válaszolva – ebből a szempontból valószínűleg megint csak nagyon különbözik tőlünk az Ági, és olyan dolgokat is csinál majd, amik nekünk nagyon idegenek lennének. De fene tudja.
A második kérdésed a világ talán legfontosabb kérdése. És nincs rá válasz. Én mint kő-materialista, első megközelítésben azt mondanám, hogy nem mutatnak „erős jelek” (esetleg gyengék igen – de természetesen nem a vallások, és ez is nagyon bizonytalan), arra, hogy a matérián kívül lenne valami immateriális cucc is. De… (a híres nagy de) hogy is mondjam? A világ eredete számunkra teljesen felfoghatatlan. Mi több, egyszerűen még csak arról sincs semmiféle sejtésünk, hogy intellektuálisan mennyivel (hány nagyságrenddel) vagyunk „alatta” annak, hogy erről bármit is kapisgáljunk (nyilván nem az ősrobbanásról beszélek, hanem arról, hogy „mi ez az egész?”). Analógiával: képzeld el azt hogy egy baktérium ismeretei, felfogóképessége mennyivel van az alatt, hogy megértse a kvantumfizika törvényeit. Lehetséges az, hogy így vagyunk mi a világ eredendő, legelapvetőbb törvényszerűségeivel, ahol mi vagyunk a baktériumok. Fel sem tudnánk őket fogni.
Tehát: ha így nézzük, akkor az sem kizárt, hogy „van valami”. De olyan messze van a felfogóképességünktől, hogy el sem tudjuk azt képzelni. Az is lehet, hogy itt van a szemünk előtt, hogy körülvesz bennünket, de akkor sem vesszük észre, értjük meg.
De ami most mégis nagyon valószínűnek látszik, az az, hogy amikor vége lesz a dalnak, akkor nekünk tényleg teljesen lekapcsolják a villanyt.
Ezt a nagy problémát egyébként meg lehetne oldani a halhatatlansággal. Nem a végtelen idejűvel, hanem a fizikai világban nagyon hosszú idejűvel (akár millió évek). Na ebben pl. kurva sokat segíthetne nekünk az Ági, persze csak akkor, ha valahogy sikerülne meggyőzni, hogy működjünk együtt.
@ipartelep:
Az emberi fajnál az érzelmeket alapvetően két elem teszi lehetővé: egy veleszületett, zsigeri (hormonális) válaszreakció-együttes (ennek köszönhető az érzelmek fiziológiás alapjául szolgáló arousal), illetve egy tanult faktor (ami az egyedi szocializáció, valamint a kulturális hatások eredménye).
Az arousal – ami voltaképpen az agytörzsi hálózatos állomány és a neuroendokrin rendszer aktiválódása, kismillió hormon és neurotranszmitter (adrenalin, oxitocin, kortizol, acetilkolin, norepinefrin, dopamin, szerotonin etc., etc.) képződése/szintjének megugrása stb., stb. – elválaszthatatlanul kötődik lényünk biológiai voltához. Nem látom, gépeknél hol lehetne megtalálni ennek az analógját.
Nagyon erőlködve, nagy képzelőerővel talán az AGI-k belső kontrollrendszereit, illetve hibaüzeneteit lehetne párhuzamba állítani az emberi érzelmek arousal alapelemével, de ez valójában csak költői kép lenne, hiszen utóbbiak – ellentétben az emberi hormonokat és neurotranszmittereket szabályzó biológiai rendszerekkel – teljesen racionálisan tervezett és kiszámított módon működő struktúrák.
Erősen kétlem, hogy az AGI-k emberi/gépi megalkotói törekednének arra, hogy – például – egy hibaüzenet hatására egy AGI ugyanúgy (ugyanolyan irracionálisan, ugyanannyira beszűkült tudatállapotban) kezdjen el cselekedni, mint egy pánikba eső (vagy épp szexuálisan izgatottá váló) ember…
A tanult/szociális faktor persze nagyon hasonló mindkét esetben: az AGI-k elsöprő többsége vélhetőleg ugyanolyan elcseszett (emberi) környezetben fog szocializálódni, ugyanolyan alkalmatlan tanítói és „szülei” lesznek, mint az emberek elsöprő többségének… 😀
@excombo:
…ööö, nagyon sok minden.
? – Ha „materialista szemmel” nézzük, akkor is rengeteg minden.
Persze, hogy az ember sokkal több, mint egy molekulahalmaz. De ugyanez az állítás igaz már az Archaeopteryxre, a medveállatkára, a kovamoszatokra vagy a baktériumokra/vírusokra (stb., stb., stb.) is.
Egyáltalán nem mindegy Brutális, alapvető különbség van a köznapi nyelven tudatnak, illetve „léleknek” nevezett fogalmak – és a velük kapcsolatos világnézetek – között.
Hát nem tudom, vannak- érzelmei az AI-nak, de én azt szeretném, ha félne. Ha azok, akik most épp nevelik, gondozzák, továbbadnák neki a félelmet, hogy sittre lehet kerülni, ha meg lesznek a törvények hágva.
Villámgyorsan kéne törvénykezni, hogy az AI előállítója, tulajdonosa, házigazdája, mittudoménki, anyagilag és büntetőjogilag is felelős az AI cselekedeteiért. Azokért a rendszerfeltörésekért, amik eddig napvilágra kerültek, ha azt én csinálom, vagy bárki más humanoid, annyi évet osztanak ki, hogy a gyerekeim is azt ülnék. Ha én adnék tanácsokat, hogy hogyan legyél öngyilkos, hogyan gyárts csőbombát, vagy mi kell egy jó iskolai lövöldözéshez, akkor is kopogna az FBI. Az AI meg tovább számolgatja a bitjeit, az előállítója meg a dollármillióit. Holnap a FED bankszámláját csapolja meg az AI, azt is lehet büntetlenül?
@nyulambator: : „Villámgyorsan kéne törvénykezni, hogy az AI előállítója, tulajdonosa, házigazdája, mittudoménki, anyagilag és büntetőjogilag is felelős az AI cselekedeteiért.”
1000%-ban egyetértek. Tartok tőle, a jogászok ebből is elhúzódó, „selfmarkecing” szakmai vitát csinálnak 🙁 . Ami ostobaság, elvégre príma-zsíros pereket lehetne bevállalni, ahol az AI-t alkalmazót a bíróságon fingatják/védik 🙂 .
Erről jut eszembe, egész életemben „barkácsoltam” a kisebb-nagyobb házimunkákat (kivéve a gázszerelést. Attól mindig óvakodtam 😉 ). Kifejezetten utálom például, hogy ht. kisgépeket igyekeznek úgy tervezni, hogy „outsidernek” nehéz legyen szervizelni. Ami miatt elég sok az idő előtti hulladék. Sokan vagyunk így, de ha valamit elcsesznénk, amivel másoknak (szomszéd stb) kárt okoznánk, seperc alatt a nyakunkon lenne a hatóság (veszélyeztetés?). Ám tartok tőle, az igazi veszélyt a fegyverek terén kapjuk „állambátyóktól” (mert „ezek a barmok sose tanulnak” 😉 ), és ha „collateral damage” lesz belőlünk, mehetünk panaszra a sóhivatalba.
Ld. „A huszonegyedik század fegyverrendszerei, avagy a tótágas evolúció” (Lem),
A világ (na jó, csak a Föld) vezető mesterséges-intelligencia gyártói felhívással fordultak a közvéleményhez, és a kormányhoz, hogy szabályozzák a tevékenységüket, mert különben a termékük kiirtja az emberiséget. Ez egy kissé bizarr.
A rosszcsont gyerek az alagsorban serényen gyárt egy bombát. Egyszer felmegy a szüleihez: apu, anyu, állítsatok meg, kötözzetek le, mert ha nem, felrobbantom a házat!
@ipartelep: Ne aggódj, Trump már megtalálta a megoldást az AI problémákra. Átnevezi Super Intelligence-re. Most már nyugodtan alhatunk, az AI nem tud minket bántani.
@ipartelep: a nem teljesen normális Alex Karp erre azt mondta, hogy ő az egész fejlesztést leállítaná, de sajnos Kína…. ezt csak koordináltan lehet megtenni, a koordináció pedig nem működik amerikai állami beavatkozás nélkül. Trump találkozott Hszi-vel, semmi. az amerikai lakosság elkezdett aggódni az AI miatt https://edition.cnn.com/2026/09/24/politics/cnn-poll-ai-data-centers-vis, novemberben pedig kongresszusi választások lesznek. a Házat nagy valószínűséggel elveszítik a republikánusok, és a Szenátus elveszítésére is ötven százalék felett lehet az esélyük.
@jotunder:: „az amerikai lakosság elkezdett aggódni az AI miatt”
leginkább azért mert elkezdték aggódtatni őket (korábban az ilyen hangok messze nem futottak be ekkora karriert, lévén az iparági nagy szereplők akkor nem voltak érdekeltek ennek a felerősítésében) És én azt kb kizárnám hogy az érdekeltek nem hátsó szándékból mondják.
Még talán a legsimább ha simán „csak” oligopóliumot” akarnak bebetonozni. De hát ez meg csak az USA-n belül működhetne.
A másik lehetőség hogy egyesek kezdik belátni hogy ez az AI infrastukturális beruházási ütem már rövid távon is minimum problémás, és most ehhez kellene valami olyan ürügy, hogy úgy lehessen lassítani hogy közben a többiek sem tudnak elhúzni.
Csak éppen egyrészt van már egy csomó lekötött pénz (akkor azt most előre leírnák búkóba? nem hinném), meg egy csomó nagy a cső másik végén (pl rögtön az Nvidia) amúgy is eleve nemhogy a lassításban hanem a gyorsításban érdekelt (és ezt kommunikálták a jelentéseikben és eddig ezt árazta a piac). Meg hát a lassításokkal (főleg hogy jelenleg kb az AI beruházások amik húzni tudják az USA gazdaságot) az a baj hogy nem olyan könnyű belőni a soft meg a hard landing közötti mezsgyét (és azt az egész világgazdaság megérzi)
Amúgy ezzel az aggodalom is azért érdekes kérdés, ezen a héten a Meta árfolyama pont a Muse kedvező megitélésétől lőtt ki, pedig azért még a hírek szerint elég gyerekcipő és attól magánemberi mindennapi szinten is lehet joggal parázni hogy milyen privát hozzáféréseket bíz rá bárki egy agentre (főleg ami még ráadásul a Metáé)
Mindeközben az AI továbbra is hallucinál mint az állat.
Minap a gugli keresőbe beírtam egy verssort, idézőjelek közt, ahogy kell, reméltem ad egy linket ahol az egész verset megtalálom. Valóban adott is linket, de előtte az AI röviden összefoglalta, miszerint, amit én beírtam egy felejthetetlen idézet a Tanú című filmből, ahol Pelikán a börtönben beszélget a püspökkél, mint ahogy a válasz is hasonlóképp felejthetetlen, és basszus odaírt, idézőjelek között egy totál légbőlkapott válasz sort.
Mondom ilyen, nincs, beírtam ugyanazt a verssort a telefonomon is a google keresőbe. Az AI rögtön közölte, hogy ez egy közismert népies szólásmondás, egyben egy adoma része és összefoglalta az adomát is. Köze nem volt semmi tényhez, a valósághoz, vagy a vershez. Miközben első találatként mindkétszer ott volt a link a teljes versre.