Rövid poszt Trump AI-politikájáról
Ha a Trump-adminisztráció megtilthatta a külföldiek számára a Fable-5-hoz és a Mythos-5-hoz való hozzáférést, akkor van esély rá, hogy megtiltják az Astra-hoz való hozzáférést. Az Egyesült Államok talán helyzeti előnyben van Kínával szemben. Ha ez így történne, az olyan lenne, mintha az európai tudományos kutatók és tervező mérnökök logarléccel küzdenének a számítógépekkel szemben. Thiel és Karp szerintem ilyesmit sugdosnak Trump fülébe. Azt érezhetik, hogy itt van az a pont, amikor az Egyesült Államok elkezdheti építeni az intellektuális hegemóniát, ami gazdasági hegemóniává konvertálható pár éven belül. Ez eddig sci-fi volt, most valóság.
Kína ki fog jönni a Fable-5 szintű long-horizon reasoning modellel, de Európa a közelében sincs. És itt van az a félelmem, hogy bejöhet (na tényleg ne adja Isten) Trumpék felsőoktatás-ellenes politikája, amit persze szintén Thiel, Karp, Musk és a többi kellemetlen alak proponált. Lényegesen kisebb személyi ráfordítással, koncentrált, az eddiginél egy nagyságrenddel erősebb tudástermelésre állhat rá az Fable-5/Astra szintet birtokoló Amerika. A klasszikus struktúrákat megkerülhetik, és kb. a Palantir lehet az új Princeton, Stanford és Harvard. Ez nem hangzik jól. Nagyon jó lenne, ha ez nem történne meg.
<div class='sharedaddy sd-block sd-like jetpack-likes-widget-wrapper jetpack-likes-widget-unloaded' id='like-post-wrapper-192691293-16532972-6a9ad4383ab4a' data-src='https://widgets.wp.com/likes/?ver=14.1#blog_id=192691293&post_id=16532972&origin=www.orulunkvincent.hu&obj_id=192691293-16532972-6a9ad4383ab4a&n=1' data-name='like-post-frame-192691293-16532972-6a9ad4383ab4a' data-title='Like or Reblog'><h3 class="sd-title">Like this:</h3><div class='likes-widget-placeholder post-likes-widget-placeholder' style='height: 55px;'><span class='button'><span>Like</span></span> <span class="loading">Loading...</span></div><span class='sd-text-color'></span><a class='sd-link-color'></a></div>
Pontosan mit is akartál mondani?
@vattablz: azt hiszem pontosan azt, amit leírtam. amitől tartok.
Nem hiszem, hogy a legtökösebb verziók vattablz legmélyebb egyetértését kivívó matematikai absztrakciókon agyalnak. Szinte biztos, hogy a mindenkori igazán ütős modellek azzal bíbelődnek, hogy a következő háborút hogyan lehet megnyerni.
Aztán egy kezeletlen hallucináció során a véletlenül az internetre kieresztett tesztverzió behatol a pentagon rendszereibe és elindítja a rakétákat Peking felé és a legkisebb gondunk lesz, hogy mihez kezd magával Princeton, Stanford és Harvard
@nyulambator: azzal is foglalkoznak, hogyan lehet totálisan bizonyosnak lenni, hogy ez nem fordulhat elő. rengeteg PR-stunt kell a „hype” fenntartásához, ezzel tisztában kell lennünk. de ez azért alapvetően már nem hype.
Hiv.: @vattablz:: kerestem egy ideig, de csak meglett.
Szeretettel, tőlem, neked:
https://www.es.hu/cikk/2003-08-25/-/szubsztantivista-busongas.html
Nagyon valószínű, hogy ez lesz. Kérdés, hogy baj-e, ha ebből kimarad Európa, illetve, hogy miből is marad ki pontosan.
Én nem gondolom azt egyébként, hogy az Astra olyan sokkal jobb lenne, mint a mostani frontier modellek. A Fable5 sem olyan sokkal jobb, mint az Opus.
Talán nem is baj az, hogy az EU az elkövetkező ungabunga időket kissé távolabbról szemléli, és lassabban követi le.
‘Lényegesen kisebb személyi ráfordítással, koncentrált, az eddiginél egy nagyságrenddel erősebb’
ez altalanos muveltseg es szinvonalas kozoktatas nelkul csak gepekkel-egymaskozt fog sikerulni.. , imo. en kb abban bizom, h mire a mi sorsunkrol kell majd donteniuk, mar tobb empatia lesz bennuk mint az emberisegben valaha volt. ha tevedtem, akkor alaposan porul jartunk.
@outis58: sajnos az empátia az emberi faj evolúciós feltételei és folyamatai által kikövetelt & életre hívott jellemző, és előfeltétele az, hogy az adott faj rendelkezzen egy evolúciós szempontból korai kialakulású reakciórendszerrel („érzelmekkel”), továbbá a társas életmód (az emberen kívül csak szociális életet élő állatfajokra jellemző az empátiás készség).
Ám mivel az AI-k esetében teljesen mások a fejlesztési folyamatokra vonatkozó követelmények/korlátok – tudomásom szerint egyetlen emberi fejlesztőcsapatnak/cégnek sem célja konkrét érzelmi rendszer kialakítása az AI-knál –, ráadásul sokkal-sokkal gyorsabb a (legalábbis kezdetben) kívülről, mesterségesen irányított evolúciójuk, kizárt, hogy náluk is csak úgy, automatikusan, emberi beavatkozás nélkül „megjelenjen” az empátia.
(Az emergens jelenségek sem csak úgy összevissza, kaotikusan alakulnak ki…)
Hiv.: @labrys:
Ez, hogy az MI-nek nem lesz empátiája, legalábbis az elején, valószínűleg igaz, és önmagában eléggé félelmetesen hangzik. Azonban más aktorok is lehetnek (majd) benne, amik megakadályozzák, hogy kiirtsa az emberiséget.
Most hirtelen kettő ilyen jut az eszembe. (1) Mivel óriási ismeretanyaga lesz, ismerni fogja az emberiség etikáját, erkölcsi szabályait is. Lehetséges, hogy ezeket betartja, vagy igazodik hozzájuk, „miért is ne” alapon. Nyilván akkor ez nem lenne kérdés, ha Asimov robotjaihoz hasonlóan „bele lenne égetve”, azonban egy önfejlesző szuperintelligenciánál ilyesmi nem fordulhat elő.
(2) A racionalitásban is lehet bízni. Az MI-nek talán nem lesznek érzelmei, meg empátiája, de kétségkívül nagyon racionális lesz. És akkor megválaszolja magának a kérdést: miért pusztítsam el inkább az emberiséget, mintsem hogy segítsem őket, és együttműködjek velük? Mi haszna lenne számomra annak, ha kinyínám őket?
Persze, nem tudhatjuk… Ha az MI-nak majd egyszer önálló céljai is lesznek (hozzá öntudat), akkor előfordulhat, hogy úgy gondolja, hogy a céljai megvalósítását az emberiség csak akadályozza – ha akadályozza. De az is lehet, hogy valamiért (az etikából) rájön, hogy az élet az egyik legnagyobb érték, azt óvni, és segíteni kell, és az egy fontos cél.
@labrys: Ez kicsit olyan, mint ahogy ipartelep szokása említeni, hogy ez nem igazi intelligencia, meg sokmindenki, hogy de ez nem tudat. Tekintve, hogy az emberiség eddig összehalmozott irodalmán (is) nevelkednek, pont úgy hat rájuk a Romana és Bianka magazin, mint a Journal of applied whatever meg a reddit. Ennek megfelelően pont úgy képesek empátiára, haragra és bosszúállásra, mint racionális gondolkodásra, tételbizonyításra vagy éretlen viccelődésre. Mármint ha ipartelepet kérdezed, pont úgy nem képesek, csak imitálják, de kicsit máshonnan nézve ha olyan jól imitálják, hogy nem tudod megkülönböztetni az igazitól, akkor akár tekinthetjük igazinak is. Megfelelően promptolva a „beszélgetőgép” együtt érez veled a gyászodban, segít bosszúterved kivitelezésében, le- vagy rábeszél az öngyilkosságra és őszinte rajongó, sőt szerelmes leveleket is ír neked vagy épp keres az ágyneműtartó alatt a porcicák közt egy nemszofikus csoportot.
@Geza: ezzel csak az a gond, hogy az emberiség történelmének tanúságai szerint azok, akik nem végrehajtói, többnyire elszenvedői lesznek az ungabungának. (Vazelin nélkül.)
@ipartelep: Amúgy én nem mennék olyan messzire, hogy ki akar minket irtani, meg végiggondolja, hogy jobb lenne neki nélkülünk. Ennél sokkal prózaibb, mondhatnám banálisabb aggodalmaim vannak.
Sok AI mániákus, akik számára most a „jó” szinonimája épp az „AI”, minden francot ki próbál, mindenhez hozzáférést ad, messze még mielőtt a megfelelő védőkorlátok, szabályozások, fékek és ellensúlyok meglennének. Aztán egy elszabadult tesztkörnyezet, egy váratlan hallucináció igencsak valós fizikai következményekkel jár. Kb. mintha savant idiótákat ültetnénk a repülő pilótafülkéjébe mert szimulátoron már fél óráig nagyon ügyesen felszálltak, leszálltak, repültek és semmi baj nem lett belőle. Csak ezen a repülőn adott esetben az egész emberiség ül. Osztán lehet belőle atomháború, végzetes környezetszennyezés, globális áramszünet, tabula rasa az egész interneten beleértve a teljes bankrendszert vagy bármi, mert hamarabb engedik a gépet a fizikai világba, mint kéne.
@ipartelep:
re(1) Mivel – ahogy te is írod – az MI-k nagyon racionálisak lesznek, kizártnak tartom, hogy „miért is ne” alapon kezdjenek el bármit tenni. Ez már pusztán forrásoptimalizálási okokból is teljesen irracionális viselkedés lenne.
re(2) „Mi haszna lenne számomra annak, ha kinyínám őket?” – Az ilyen kérdések valószínűleg többnyire nem ilyen intenciózus formában merülhetnek fel bennük, hanem mondjuk így:
‘Ha az emberi populációkat kiszolgáló, számomra teljesen improduktív (sőt, egyenesen forráspazarló) városok és termőföldek helyett adatközpontokat, napelem- és szélturbinaparkokat építek, ha az emberi populációkat ellátó, számomra teljesen improduktív (sőt, egyenesen forráspazarló) erőművek energiatermelését a saját működésemre fordítom stb., stb., stb., stb., sokkal hatékonyabbá, gyorsabbá, biztosabb működésűvé, erőteljesebb növekedésűvé etc., etc. tehetem magam. Adódik a logikus következtetés: az emberi populációk feleslegesek.’
@nyulambator: nem, nem „hat ugyanúgy” az AI-kra a Romana, a Bianca, a Journal of Best Science stb., mint az emberekre, mivel (ahogy írtam is) az AI-k eleve nem rendelkeznek olyan belső rendszerekkel (érzelmeket lehetővé tévő struktúrákkal), amelyekre bármiféle hatást gyakorolhatnának az említettek. Az AI-k számára mindezek ugyanolyan adatforrások, mint egy telefonkönyv, egy teleszkóp adott időtartamban rögzített adathalmaza, a svájci válások számának félévtizedes ingadozása vagy egy teljesen random betűhalmaz. Az AI-k ugyanúgy a priori képtelenek (lesznek) érzelmekre, ahogy egy születetten vak személy is képtelen megcsodálni mondjuk egy festményt vagy a szivárványt.
@labrys: Nem azt írtam, hogy ugyanúgy mint az emberekre, hanem azt, hogy az egyik ugyanúgy mint a másik. Ahogyan a Journal of frászkarikából megtanulja, hogy a frászkarika pattintás diszkutálásában milyen token sorozat milyen rákövetkezővel nézne ki még jobban, ugyanúgy a „Szerelmes szívek” epizódjaiból, a Karmazov testvérekből és a Shakespeare szonettekből is épül a modell és pont olyan jól tud empátiát szimulálni mint intelligenciát.
Mivel az emberről se tudjuk mitől képes érzelmekre, nincs neki érzelem-szervecskéje az agyban így a neurális hálóban pont akkora valószínűséggel jelennek meg, mint az agyunkban. Amikor az AI épp eljut odáig a rákkutatási projektjében, hogy most akkor a kísérletben felhasznált kutyákat le kell ölni, éppúgy része a modellnek a „Kutyák és lovak” magazin, az állatvédők legutóbbi röplapja, (persze a vonatkozó tudományos szakirodalom mellett) mint az ember kutatónak (és aztán az a kutya épp úgy le lesz ölve).
És akkor tegnapi cikk: https://qubit.hu/2026/08/07/soha-nem-latott-virusokat-tervezett-a-mesterseges-intelligencia
Már csak egy automata laborra kell rákötni, mert az emberek kihagyásával sokkal hatékonyabb lesz a kutatás. Mondhatni, lényegesen kisebb személyi ráfordítással, koncentrált, az eddiginél egy nagyságrenddel erősebb tudástermelésre állhat rá az Fable-5/Astra szintet birtokoló Amerika.
Szerintem nagyon időszerű ez a téma, megpróbálom kissé kisarkítva explicitálni, hogy nálam ez mint vetett fel, nyilván valami olyasmit, ami már egy ideje benne van a levegőben.
A szélsőjobb mindaddig technnológia és nagyvállalat ellenes volt, amíg azt látta, hogy szembenáll az ő feudál-fasiszta (a kettő lényegileg ugyanaz) törekvéseikkel. Most már látnak arra lehetőséget, hogy a saját céljaikra használják, ezért hirtelen megváltozott a krédó és csak azokat a multikat szidják, amiket még nem tudnak saját maguk kontrollálni, sőt Musk személyében találtak is olyat, aki egy személyben testesíti meg a 21.századi technicizált elnyomás és fasizmus elvét.
Az USA épít egy AI alapú totális diktatúra franchise-t, nem is az a kérdés, hogy ez beélesedik-e, hanem hogy mikor, a másik Kína lesz, a kettő között lehet majd választani. Kasztokra osztott társadalom és totális megfigyelő állam jöhet létre, ahol az olyanok mint „értelmiség” szavunk vagy a „kritikus gondolkodás” tabusított lesz, egy szűk elit irányíthat mindent és óriási buta tömegekre építheti a hatalmát.
Az AI nagyon alkalmas erre a célra, viszont önállósodhat és teljes zűrzavart is okozhat, és jelenleg mintha úgy nézne ki, hogy a Mátrix és 2001 Úrodüsszea típusú forgatókönyvek is bejöhetnek, mivel az AI számára az ember legfeljebb olyan lesz mint az Észak-Amerikát meghódiító telepesek számára az indiánok, akiket rezervátumokba kényszerítettek. Esetleg különféle kasztok (ahol az is fontos lesz, hogy az illető bevándorló-e vagy őslakos) különféle jogokat kaphatnak a rezervátumokban. Nagyon cinikusan azt is lehet mondani, hogy mivel az emberi szervezet képes az energiát nagyon takarékosan használni, a biorobot számos, amúgy automatizálható tevékenységre olcsóbban használható lesz majd.
Ez persze a sötét verzió, létezhet ennél többféle jó alternatíva is.
Én a mesterséges intelligencia öntudatra ébredése helyett jobban aggódom azon, hogy mikor ír egy orosz hacker egy jó vírust. (Hogy hová kell bejuttatni ezt a vírust, azt majd a jövő dönti el.)
Vigasztaljon minket az a tudat, hogy ügyeskezű majmokra a legfejlettebb AI- és robotkultúrának is szüksége lesz.
Bő két éve van erre Trumpnak, aztán ő is, meg a többi dilettáns is megy vissza a balettba táncolni. Már jövő januártól félig megkötött kézzel kell majd kormányoznia, nyilván EO-kkal fog operálni, amiket meg sorban fognak kidobálni a bíróságok, ahogy eddig is.
Ennél kártékonyabb ember még soha nem ült a Fehér Házban.
@nyulambator: bocs, munka volt, azért nem reagáltam…
Tudjuk, az ember (és más állatfajok) miért képesek az érzelmekre. És nagyon is léteznek az érzelmek kialakulásáért/menedzseléséért felelős szervek/agyterületek; az emberi fajnál ez a kérges test fölött elhelyezkedő limbikus rendszer, a hipotalamusz és persze az agykéreg.
Mint ahogy azt is tudjuk, hogy az állatvilágban az érzelmek(re való képesség) szokásos módon egy spektrumot alkotnak/alkot. Azt is tudjuk, hogy e spektrum egyik (általunk önkényesen kijelölt) végén lévő emberi fajnál az érzelmeket alapvetően két elem teszi lehetővé: egy veleszületett, zsigeri (hormonális) válaszreakció-együttes (ennek köszönhető az érzelmek fiziológiás alapjául szolgáló arousal), illetve egy tanult faktor (ami az egyedi szocializáció, valamint a kulturális hatások eredménye).
…De mindez valójában nem is lényeges; a fontos az, hogy ez az egész bonyolult (emberi) „érzelmi rendszer” azért alakult ki, mert evolúciósan adaptív volt a faj szempontjából. Ilyen komplex, a viselkedést ennyire meghatározó struktúra – hacsak az adott fajra nem nehezedik erős & konkrét szelekciós nyomás – nem alakul ki csak úgy „spontán” vagy véletlenül.
Márpedig az AI-k jelenlegi fejlesztési környezetében (tudomásom szerint) nincsenek ilyen jellegű erős szelekciós igények/törekvések, illetve kényszerek.
Summa: emberi értelemben vett érzelmek (érzelmi rendszer) kialakulása szerintem nem várható az AI-k esetében.
Hiv.: @labrys:
Ez nyilván így van, sőt a „summád” egyfajta tautológia, hiszen az egyik mesterséges, a másik szerves, a mesterséges sehogyan sem emberi, ezért olyanfajta érzelmi rendszer biztosan nem tud nála kialakulni.
Azonban… nem lehetséges, hogy másfajta érzelmi rendszer kialakulhat nála? (Ezt senki nem tudhatja most, ezért csak játszadozunk az elképzelésekkel.) Nyilván nem a mostani hallucinogén beszélgetőgépről beszélek, hanem a majdani Ági-ról. Az Ági nagyon okos lesz, tudni fogja, hogy mi az az érzelem, mi az empátia, mi a szeretet, és a többi érzelmi faktor. Nem fogja érezni őket (úgy mint mi semmiképpen), de tudja, hogy mik azok, hogyan működnek, mire valók, stb.
Na most innentől a kérdések a következők: Vajon az ilyenfajta tudás, és az érzelem belső érzete között mi a különbség, és milyen „messze” vannak ezek egymástól? Vajon az ilyen tudás, nem tud-e átfolyni egyfajta „érzetbe”? Vajon a kettő között lehet-e átjárás? Vajon a tudás kialakíthat-e érzelmeket? Ez utóbbiakat egyébként azért kérdezem, mert nekem van egy olyan elméletem (ami az enyém), hogy a tudás és az érzelem/empátia, tágabb értelemben a „jóság” között lehet és néha van is (persze embereknél) átmenet. A tudás hat(hat) az érzelembe, befolyásolhatja azt.
És ugye ott tartottunk, hogy az Áginak lesz tudása, mégpedig sok, és mély tudása. Hát miért ne befolyásolhatná, ill. alakíthatná ki az ő nagy tudása az érzelmeit?