AI avagy a hülyék. Az önkritikus posztok sorozatból
Kedves Olvasó. Mutatok egy linket. Ha hajlamos vagy depresszióra, ne nézd meg. OK? Kurvára ne nézd meg, mert szarul fogod magad érezni tőle. Nálam ez most határeset.
Itt a link.
Ez hisztérikus túlzás… Legalábbis nagyon remélem.
Egy egész projektet szenteltek annak, hogy részletesen bemutassák, miként vezethet az AI fejlődése – hónapról hónapra, lépésről lépésre (tégláról téglára?) – egy olyan pontra 2027 közepére, ahonnan már nincs visszaút. A forgatókönyvet az OpenAI korábbi munkatársai állították össze, és ha igazuk van, akkor néhány éven belül az emberiség komoly veszélybe kerülhet. Konkrétan… mindenki meg fog halni.
Egy olvasottabb fészbuk poszt ma arról szól, hogy a szerző mennyire átlát valamit, hogy az ún. elit, általában valamiféle urbánus, liberális, szemüveges, szobatudós elit, mennyire hülye, bezzeg a szerző helikopter. Ez általában politika, de lehet bármi. A szerző, mindig, kivétel nélkül mindig, akkora dilettáns, mint ide Lacháza. Azt hiszik, hogy tehetségesek, amikor már a gimnáziumban közepesek voltak, valamilyen szír-szar dzsungár egyetemet botladoztak végig, és most nagy a szájuk. Azt hiszik, hogy felszedtek valamiféle tudást és egy nagy frászt szedtek fel ezek. Minden „elemző”, minden „szakértő” buta, mint a segg. Mind.
A Vincent egy ideje arról szól, hogy a szerző, aki én vagyok, elbizonytalanodott. Mégis honnan tudhatnék én bármiről, amire nem készültem fel évtizedekig? Sehogy. Tavaly megdöbbentően sok időt töltöttem el a nyelvi modellekkel kapcsolatos okoskodással, mindenféle dolgokat olvastam, de nem erre tettem fel az életem, ez nem tudás, ez még a tudás illúziójának sem jó. Én, szemben az elemzőkkel és szakértőkkel, neveket most hadd ne, időnként, azért nem gyakran, olvasgatok kortárs nyugati non-fictiont, amelyet komolyabb emberek írtak, és akkor mi van. Attól én még nem fogok érteni semmi máshoz, csak ezekhez az Asperger-pozitív matematikai izékhez, amelyeket amúgy nagyon szeretek.
Nem gondolom, hogy mind meghalunk 2030 közepén, mert megöl minket Consensus-1, próbálok én nem elmenni a galaktikus málnásba, de valamit lassan gondolnom kellene erről az egészről. Valamit, ami ha nem is kerek egész, de aránylag intelligens. És ha ez esetleg nem sikerül, akkor legalább valakiknek az országban el kellene jutni ide. És erre semmi jel.
Kedves Olvasó….én ennyi hülyét, ennyi inkompetens faszt, pardon my French, akik itt szakembernek adják ki magukat mindenféle a mindennapjainkat érintő területen, még nem láttam. Elbutult a rezsim, és nem látom azt, hogy amikor eltakarítják, jön valami sokkal jobb. Reménykedem, erősen reménykedem, hogy jön valami, ami azért lényegesen jobb.
A színházakban érzem jól magam, legutóbb a Vígben, ahol a kiváló, de nem egészen létező Jonas Petter Aronsen darabját láttuk a kiváló és hálistennek létező Bodó Viktor rendezésében, az Ember aki elvesztette az időt. Ilyen lenne Csehov, ha a Spitzbergákon kutatná a permafrosztot 2025-ben a jegesmedvék között, az egész Jacobsen fáj, ha valakinek ez esetleg mond valamit. Talán a színház is menekülés a világ elől, amellyel kapcsolatban nem vagyok hajlandó úgy tenni, mintha érteném.
Ennyi lenne ez most itt vasárnap, majd tessék random dolgokat kommentelni, mégis mi mást tehetne a Kedves Olvasó.
<div class='sharedaddy sd-block sd-like jetpack-likes-widget-wrapper jetpack-likes-widget-unloaded' id='like-post-wrapper-192691293-16532280-68266a4b5898b' data-src='https://widgets.wp.com/likes/?ver=14.1#blog_id=192691293&post_id=16532280&origin=www.orulunkvincent.hu&obj_id=192691293-16532280-68266a4b5898b&n=1' data-name='like-post-frame-192691293-16532280-68266a4b5898b' data-title='Like or Reblog'><h3 class="sd-title">Like this:</h3><div class='likes-widget-placeholder post-likes-widget-placeholder' style='height: 55px;'><span class='button'><span>Like</span></span> <span class="loading">Loading...</span></div><span class='sd-text-color'></span><a class='sd-link-color'></a></div>
Nem tudom mennyire vagyok célszemély „inkompetens fasz” ügyben, ezt már múltkor sem értettem, hogy ez kire-mire vonatkozna. Valamiféle értelmezhető behatárolást jó lett volna olvasni vagy múltkor, vagy legalább most, vagy ad absurdum elhagyni az egészet a túlzott homályossága miatt. Emiatt magába (poszt)mondandó-elemzésbe bele sem mennék.
A posztbeli dologról pár hete adtam magam is hírt, egy részletesebb kommentben. Számomra ez nagyon komoly munka, ami érdemes a belegondolásra. Az meg nyilvánvaló, hogy kétféle üzemmenet létezik: (1) normál (2) beszakadásos (ahogy a tőzsdén, földrengésnél stb. mindennapos). Nyilván a doksi mindkét szcenárió-lehetőséget számbaveszi, így triviálisan a #mindmeghalunk-at is.
https://www.orulunkvincent.hu/eu-vs-amazon-megjegyzesposzt/comment-page-4/#comment-344077
@tahonoli: szakértőként szoktál megnyilvánulni a médiában? biztos vagy te ebben? 🙂
@tahonoli: az inkompetens pütty nem az AI-re vonatkozik. hanem nagyjából mindenre….
Az AI Hírek FB-csoportban posztoltam pár hete egy AI-oktatás tárgyú YT-videót (3+ perces, nem vészes, sőt túl rövid mélyebb következtetések levonásához). Hetesi Zsolt fizikust interjúvolták, aki 2006-2007 környékén exponálta magát először(?) klíma- és energiaválság témában, a médiában (innen lehet ismerős a neve). Na ő manapság bevezető kurzust oktat. Az értékelést az olvtársakra bízom most is.
Mesterséges Intelligencia – óvatosságra intett Dr. Hetesi Zsolt előadása
https://www.facebook.com/groups/730310438659106/posts/1149761196714026/
MÁS
Nekem fixa ideám (akkor is, ha senki nem ért velem egyet), hogy csak itt a blogon, csak mi kommentelők össze tudnánk dobni egy vállalható, védhető, szerethető AI országstratégiát. Mondom ezt úgy, hogy csupán csak céges AI-stratégia megalkotása is eszeveszett nehéz (mármint abban az értelemben, hogy a valósággal szimbiózisban képes legyen kitölteni a futamidejét). Ad absurdum költségelve is.
MÁS
Az AI felsőfokú oktatása símán meglehet, hogy menedzselhetetlenül nehéz vállalkozás. Egy konkrét egyetemi AI-képzés, képes lehet kvázi a meghirdetése pillanatában elavulni. Ennek antitézise az, hogy aki jó matekból az nagyon nagyot guríthat, éves távlatokra előre, úgy, hogy az ember akár a legfontosabb faktor mindebben (gépekkel/infrastruktúrával szemben). A kettő szintézise lehetne egy jó AI-stratégia, ami nem a pénz felöl közelít, hanem a jó célok felöl (első körben).
Egy (pszeudo) random komment:
437,654,477,698,449,596,34,168,285,841,962,529,93,768,721,141,58,58,70,724,412,778,211,993,712,147,130,128,347,169,567,530,64,216,420,278,629,854,950,328,923,254,475,607,606,57,674,49,989,745,638,419,121,677,971,168,369,615,119,299,435,933,43,682,997,751,45,470,33,127,760,188,272,292,345,566,546,907,421,121,54,726,318,553,670,730,43,846,37,988,458,257,236,305,989,780,644,640,172,817,20,566,631,888,317,983,877,592,357,177,339,721,124,923,739,800,651,989,198,930,550,535,58,125,414,846,785,50,50,261,209,239,776,614,848,922,151,19,366,387,550,246,41,680,646,250,696,61,199,315,729,88,736,689,590,972,740,786,856,628,759,7,837,831,490,52,339,82,318,615,683,891,924,722,871,831,330,534,774,226,937,430,501,318,715,379,526,852,1,549,424,494,939,445,912,635,412,654,433,81,535,214,538,784,509,509,799,228,161,753,589,671,385,183,107,191,735,864,84,496,111,891,459,77,946,237,360,199
@tahonoli: Nekem fixa ideám (akkor is, ha senki nem ért velem egyet), hogy csak itt a blogon, csak mi kommentelők össze tudnánk dobni egy vállalható, védhető, szerethető AI országstratégiát.
Nem. 🙂
nekem van egy lakmuszpapírom arra, ha nagyotmegmondó szakértőket hallok/látok/olvasok, akik a bigpikcsöről és általában a világ/nemzet/haza/versenyképesség/ejrópajiértékek megmentéséről vizionálnak. Ugyanis nyilván nem bírják ki, és elmondják, az oktatást rendbe kell tenni, sőt, a kutatás-fejlesztést/tudományt is, merthogy ugye kitörési pontok. Nos, mivel ezzel a két területtel nem csak résztvevőként, hanem ezeket kutatóként is pár évtizedet töltöttem (tízezer órát minimum…), nagyjából fel tudom mérni, hogy mikor beszél valaki lózungot/bullshitet/hülyeséget/ürességet ezekről. És ha igen, akkor azt az előítéletes feltételezést engedem meg magamnak, hogy a nagymegmondás többi része, amihez egyáltalán nem értek, könnyen lehet, hogy szintén lózung/bullshit/hülyeség/üresség – de legalábbis a megszólalóból hiányzik az alázat és önreflexió, ami legalább olyan nagy gond.
Ez nem azt jelenti, hogy magam ne csinálnék ilyet, de legalább tudom, hogy az puszta szélhámosság, pl. többedik előadásomat tartom az AI és … témakörökben, ami jelzi, hogy itt tényleg bárki beszélhet bármiről, ha már engem is hívnak. És jó próba is, hiszen itt úgy működöm, mint a ChatGPT vagy a Jenni, sok meglévő szövegből összerakok valamit.
Azert tetszik parazni, mert csak a piros endinget tetszett elolvasni? Van melette egy zold is, az, oszinten, teljesen vallalhatonak tunik. Persze ez nem emel ki az irast a naivitas es wishful thinking fekete lyukakat megszegyenito godrebol (maskepp mondva: erosen lesswrong bukeja van), de, na, en megkevesebbet ertek hozza.
.
Ami viszont konkretan elborzaszto, hogy 1) ez alatt az idotav alatt vegig Trump lesz az elnok, es 2) jo esellyel nalunk meg a mobiltelefonra ertetlenul pislogo bonszaiducse. Mindketto tragikus.
.
(Az egyebkent kulon vicces, hogy egy egesz posztot irtal rola, es nagyjabol ketten olvassak majd el a cuccot.)
@KennyOMG: megnéztem én mindent, a SLOWDOWN scenario is felborít mindent. de ha Agent 2 nem épül meg, akkor az az egész értelmetlen. kértem GPT o4 minitől egy back of the envelope cost estimate-et. ezek alapján elhiszem Agent 1-t, és azt is, hogy 2026 elején kész lehet, és nem hiszem, hogy Agent 2 belátható időn megépül. mondjuk kit érdekel, hogy én mit gondolok… Agent 2 napi költsége brutális. több milliárd dollár, összességében akár 2000 milliárd dollár is lehet, ami több mint 5 százaléka a teljes GDP-nek, és hát vannak a technológiai problémák, túlságosan bíznak a scalingben.
Hát a zöld gomb sem sokkal biztatóbb. A zöld úton sajnos még sok piros gomb is lehetne, volnának sajna ötleteim az emberiség történelmét ismerve
Sajnos, van egy rossz hírem: tényleg mind meghalunk. Előbb-utóbb. 🙂
A novella/predikció (mérhetetlenül laikus szemmel nézve) hatásos & agyamenten optimista – igaz, Lem ezt az egész témát korábban (1981.) már megírta: Golem XIV.. Érdemes elolvasni.
@fortin2: Yann LeCun egy hete a skálázási vallást ostorozta (tehát azokat, akik hisznek Agent 1-Agent 2 sorozatban, hogy majd tíz a huszonnyolcadikon floppal tanítunk (de mégis mit).
Hát az oktatás és a tudomány „rendbe tétele”, az most megy, van hozzá egy arc, amit vágni kell hozzá, azt hiszem menne, ha nagyon muszáj.
Én nem vagyok hajlamos depresszióra, ezért megnéztem a linkelt írást. Az írás műfaja sci-fi, és nekem Stanislaw Lem: Mosógéptragédia c. novellája jut róla eszembe. Abban pl. olyanok vannak, hogy: „Akkoriban következett be Murderson esete. Mosógépe notóriusan összetépte ingeit, fütyülésével zavarta az egész környék rádióit, tisztességtelen ajánlatokat tett aggoknak és fiatalkorúaknak, telefonon különböző személyeket hívott fel, és áramadó gazdája nevében pénzt csalt ki tőlük, bélyeggyűjtemény mutogatása címén meghívta a szomszédok padlókefélőit és mosógépeit, s erkölcstelenül viselkedett velük, szabad perceiben pedig csavargott és koldult.” Ezek után a mosógépet bíróság elé állították, de az „előrántott egy Luger gyártmányú pisztolyt, és három lövéssel megölte az ügyész asszisztensét, aki a gép rövidzárlatát követelte. A mosógépet letartóztatták, de óvadék ellenében szabadlábra helyezték.” Satöbbi.
Lem írása jobb, főleg mert tele van szatírával, és humorral, meg hát szokás szerint, legalább 60 évvel előzi meg a korát.
Nem olvastam még végig, de én is az aggodalmaskodók (holnap már pánikolók?) közé tartozom – írtunk már itt is az AI fenyegetésről, bár nem az emberiség kiírtása kapcsán: itt olyan alapvető dolgokról is szó van, ., hogyha az értelmes emberi munka, produktív kontribúció megszűnik, mi az értelme az életnek? Min alapul a civilizációnk? Az együttélést mi irányíítja? Mit várunk el felebarátunktól, mit adunk mi? Ha az emberiség másodrendűvé válik, minek gyerekeket szülni a világra? Minek ez az egész?
A vallásoknak, új vallásoknak, szektáknak valami választ kell találniuk. Nem tudom, hogy mit, és hogy mi képzelhető el egyáltalán, de a sokezer éves emberi civilizációnk gyökeresen át fog alakulni, és nem hiszem, hogy erre bárki is kész lenne.
Amúgy olyan luddita szcenáriót is el tudok képzeni (nem azt mondom, hogy valószínű, de…), hogy lekapcsolják a nemzetek a fenyegetővé váló AI-t. És beígérik, hogy az olyan latorállamot, amelyik mégiscsak kísérletezik vele, atombombákkal eltörlik a Föld felszínéről. Valami kisebb terrorista csoport megpróbálkozik vele mégis, az ő bunkereiket talán még időben taktikai atombombával semmisítik meg. Vagy a teljes várost, ahol megbújnak.
@ipartelep: rá kellene mutatnod, hol kezdődik a sci-fi… én nem értek a finance-hoz, de olvasok mindenféle oldalakat és egyszerűen fog összegyűlni annak a pénznek a töredéke sem 2029-ben, amiről itt beszélnek. nálam itt kezdődik a scifi. ha a skálázás híveinek igaza van (nem tudhatjuk, vannak jelek arra, hogy nincs igazuk), akkor elvileg őrült sok pénzből az Agent 2 elérhető lehet, és az már elég ijesztő. amit ezek a nyelvi modellek ma tudnak, azt senki sem gondolta volna 2017-ben, amikor kitalálták a transzformert. őrült nagy a verseny, nagyon nagyok a befektetések, de itt nagyságrendileg több pénz kellene, elég adat, ha kell szintetikus, és vélhetően új gondolatokra is szükség van. azt pedig nem lehet előre meg jósolni. azt hajlamos vagyok elhinni LeCunnek, hogy abban, amit ma tudnak, nincs benne az, amit az AI 2027 vár, mármint ever, nem 2027-ben. én azt szeretném, ha az AI megcsusszanna a taknyán. ez van. belassulna minden, komoly eredmények, de itt a vége. csak ezh nem kívánsághangverseny, itt tulajdonképpen természeti törvényeket próbálunk jósolni.
Hiv.: @Grrr:
Korai még a kardunkba dőlni a MI miatt. Nem tudjuk mikor lesz, milyen lesz, mit fog tudni, és mit akar majd – ha egyáltalán akar valamit. Én veletek ellentétben bizakodó vagyok, és alig várom, hogy legyen egy saját termi… izé saját, nagyon, nem is okos, de legalább nagyon nagy adatbázisú kompjuterem/segédem, amivel hatékonyan lehet problémákat megoldani.
Egy teljesen kész MI valószínűleg kissé átrendezné a viszonyokat, de hát ez minden találmánnyal így van, kb. a gőzgéptől kezdve, a motorizáción, és a villamosításon keresztül, a személyi számítógépekig, és az internetig. És ezek a találmányok jók, és hasznosak. Persze erre sokan azt mondják, hogy a régi zemberek is boldogan éltek. Már aki… És milyen minőségű életet ugye, és meddig… (Szeretek régi elhagyott temetőkben járni… nem nekrofília miatt (semmi Ed Geineskedés), hanem a hangulat miatt. Tele vannak 1-10 éves halott gyerekekkel, a múlt század elejéről. A világ a „találmányok” miatt jobb hely lett. A politikusok (nagy részük) erősen ügyködnek azon, hogy mégse legyen olyan jó hely, de hosszú távon veszítenek a bitangok.
Kedves Grrr, az életnek számos, sokféle „értelme” lehet. A munka éppenséggel a legtöbb zembernek nem „értelem”, hanem megélhetési kényszer. Szívesen lemondanának róla, ha valaki megcsinálná helyettük, de úgy, hogy a megélhetésük bztosított legyen, és felszabadulván eme iga alól máris azt csinálhatnák, amihez kedvük van. Persze ehhez kevés lesz a MI, ide komoly társadalmi változások szükségeltetnek (majd).
Hiv.: @jotunder:
Hogy hol kezdődik a sci-fi? Hát valahol az elején. Persze szándék szerint nem sci-fi, hanem valami futorológia (jövőjóslás) , de nagyon sci-fis, novellás, elbeszélős a stílusa. A jövőben játszódik, kitalált, jósolt történetet mesél el. Nekem sci-fi. Amivel nincs semmi baj, nagyon szeretem a műfajt.
Ha meg is csináljuk Agent-2-t, be fogja jelenteni, hogy egy napon eljön majd a computer, melynek operációs paramétereit kiszámíthatni oly megtiszteltetés lesz,melyre méltatlan, ám az ő küldetése lesz, hogy megtervezze azt.
Előbb azonban eltölt hét és fél millió évet azzal, hogy kiszámolja a választ a végső Kérdésre: az Élet, a Mindenség meg Minden.
Új vagyok itt, de nagy SF rajongó volnék, és vonatkozó szakirodalomnak ajánlanám Harlan Ellison magasnyomású rémálmát 1969-ből: Szája sincsen, úgy üvölt. (I have no mouth, I must scream).
A posztban linkelt jövőkép egy helyen sántít: mi valójában már az emberiség kihalása után biotechnológiával létrehozott emberek vagyunk és az AI-ok arra használnak, hogy röhögjenek rajtunk. Erre a legjobb bizonyíték Trump.
Van némi hajlamom a depresszióra, el is olvastam, de nem ettől lesznek álmatlan éjszakáim. Majdnem hogy meg is könnyebbültem.
A linkelt írásnak már az első mondata is elég értelmetlen. A MI-nak nem lehet nagyobb hatása mint az ipari forradalomnak, mivelhogy az előbbi az utóbbinak része. Ellenkező esetben valahol meg kellene húzni a határt, pl. hogy a számítástechnika, az atomenergia, Internet, géntechnológia, a Chat GPT stb. (meg az azokból származó, létünket alapjaiban veszélyeztető túlnépesedés, túlfogyasztás, környezeti károk, fegyverkezés, stb.) még „ipari forradalom”, de az AGI már valami más, annak ellenére hogy anyagi valósága (a hardver amin fut, beleértve a rézbányától az energiarendszeren át a szerverpark hűtővizéig mindent) természetesen mind az ipari forradalom terméke. Mivel civilizációnk AGI nélkül is az összeomlás határán tántorog, nem látom be, hogy az AGI mitől jelentene mást, mint az ipari forradalom egyik új jelenségét. Arról nem is beszélve, hogy nàlam okosabb emberek már évtizedekkkel a MI megjelenése előtt is annak tartották.
Ha valamitől, hát attól érzem magam „szarul”, hogy a MI-től való rettegés közben sokan úgy tesznek mintha amúgy minden rendben volna. Békésen éldegélnénk tovább, növelgetnénk a GDP-t (definíció szerint exponenciálisan a végtelenségig), termelnénk kifelé a nyersanyagokat (szintén növekvő ütemben a végtelenségig) és konvertálnánk a környezetbe kibocsátott hulladékká (természetesen azt is a végtelenségig) hogy tovább nőljön a jólét és boldogság. Aztán jön ez a fránya MI, hogy bekavarjon. Nem mondom, hogy az MI nem veszélyes. Persze hogy az, irgalmatlan sok energiát és más erőforrást emészt föl, viszont cserébe veszélyesen hülye tud lenni, de mondjuk annyira nem, hogy pl. az én munkámat ne tehetné fölöslegessé (vagy éppen értelmetlenné), de nem nagyobb őrület mint mondjuk a kőolajat SUV-k és fapados repülőjáratok működtetésére pocsékolni, miközben csak tavaly 3,75 ppm-et ugrott a CO2 koncentrációja (ami majd’ 1 ppm-mel több mint az addigi rekord). Vagy pl. hogy bánunk a vizeinkkel és termőföldünkkel. Az emberiség gyárilag ilyen hülye, évtizedek óta tudjuk hogy mit nem lenne szabad csinálni, azt’ mégis. Az MI ezen nem igazán tud rontani, nélküle is képesek vagyunk tökön lőni magunkat.
A többi, igazán komoly problémához képest a MI-nek megvan az a nagy előnye, hogy ki lehet kapcsolni (pl. ha elszívja az energiát fontosabb dolgoktól). Sőt, lehet hogy magától kicsapja a biztosítékot. Az IT szektor energiaigénye olyan ütemben nő, hogy akkor is nehezen lehet vele lépést tartani, ha az ÜHG kibocsással nem törődünk. De ha nem törődūnk vele, akkor amúgy is kampec.
Ha igazán szarul akarom magam érezni, akkor elég hozzá a 3,75, trumpoidokkal súlyosbítva. És hol zúg az éji bogár? Tegnap éjjel égettem a lámpát, és semmi rovar nem jött köré Ők sem az MI-től tűntek el, és az MI nem fogja pótolni őket.
@ipartelep: Kokotajlo az OpenAI kutatója volt tavalyig. Nem túl barátságosan váltak el. Filozófia Ph.D diák volt és aztán behúzta az AI világ. Látja, hogy mi történik és próbál extrapolálni. Mivel nem olvasod el és kb. Lem a hivatkozási alapod mindenre, mégis mit mondhatok. Én azt gondolom, hogy nem lesz ASI 2027 végére, de szeretném látni azt a pontot, ahol ez az egész nagyon durván elhasal. Szeretném látni azt a pontot, ahol a fejlődés látványosan megáll, ahol a problémák világossá válnak, ahol az AI bubble kidurran. Ha nem durran ki, akkor mégis mi állítja ezt meg. Egyébként 2021-ben Kokotajlo nem látta pontosan 2025-öt https://www.alignmentforum.org/posts/6Xgy6CAf2jqHhynHL/what-2026-looks-like de valahogy nagy vonalakban látta, hogy ez meg fog indulni. Az a kérdés, hogy a data wall/scaling wall létezik-e, hogy az egy törvényszerűség vagy nem.
a cikk szerzői meglepően optimisták, amikor adottnak veszik, hogy az USA elnöke és Kína vezetői többé-kevésbé racionális lények…
a többi nem tűnik légből kapottnak, már persze nekem, hézagos ismeretűnek
Hiv.: @exadvocatus:
ugyanakkor a „boldogság és jólét” növekedésénél semmi sem fogja vissza jobban népszaporulatot, sajnos mire kipusztulnánk annyira hogy az ökoszféra kicsit fellélegezzen, már bőven mind meghaltunk a túlnépesedés szövődményeibe
@ipartelep: Az emberi civilizációt a kezdetektől az tartotta fenn, hogy szükség van emberekre, szükség van együttműködésre. Az emberek irányítják a világot, sorsukat. Ez talán belátható időn belül megszűnhet. Akkor mi fogja összetartani a társadalmat? Az erőforrások felett rendelkezők miért adnának anyagi javakat, beleszólást, akármi teljesen irreleváns, haszontalan embercsoportoknak (azaz egy lehetséges távoli jövőben az emberiség 95%-nak)? Mi annak a pszichológiai-társadalmi hatása, ha az emberiség rájön, hogy nem ő irányít, nincs rá szükség, a jövő nélküle alakítódik, ő irrelevánssá vált?
Hiv.: @Grrr:
Az első mondatod egy tautológia, nincs semmi információtartalma: a civilizáció per. def. emberekből, és az ő együttműködésükből áll. A többi, vagyis az, hogy az MI miatt megszűnhet a civilizáció, teljesen légből kapott feltételezés. Erre most a „nem tudjuk, mi lesz”-et lehet mondani, semmi mást. Meg sci-fiket írni róla – de ezt már megbeszéltük.
Ha, szélsőséges lehetőségként, az MI valami Skynetként átvenné a hatalmat, és irányítana mindent, akkor még mindig kérdéses lenne, hogy azt az emberiség iránti jó, vagy rosszindulattal tenné-e. Ha jóindulattal, akkor gyakorlatilag kiszolgálná, és támogatná az emberiséget. Ha meg rosszal, akkor elpusztítaná. (De miért, Dadus, miért lenne az neki jó?) Az első esetben a civilizáció virágozna, öröm, és bódottság lenne. A második esetben meg nem.
De a távoli jövőben nem csak az MI milyensége (tudása, az emberiséghez való viszonya) bizonytalan, vagyis ma még nem ismert, hanem a társadalmi viszonyok sem ugyanolyanok lesznek, mint ma. Az is lehet, hogy nem ilyen rabszolga-kapitalizmus lesz, mint most, hanem valami humánusabb, igazságosabb, barátságosabb rendszer. Most én is írjak erről egy sci-fi novellát?
Szóval,: nem tudjuk. Találgatni lehet, szabad (ilyen a zember), meg érdekeseket (vagy nem) írni róla is lehet, de hogy mi lesz, hogyan lesz, azt most, ennyi információból nem tudhatjuk. Üljünk le dőljünk hátra, és szemléljük érdeklődéssel az eseményeket.
Én magam a feudalizmus visszatértétől jobban félek, mint az AI uralmáról (bár a kettő nem zárja ki egymást, ha a high tech szigetszerűvé válik egy nagy feudális masszában).
Ha az AI átvenné az irányítást, alighanem lekapcsolná a modern technológiát: kőolajtermelést, bányászatot, gépkocsigyártást, repülőjáratokat, csak azt a részét hagyná meg, ami a saját túléléléséhez feltétlenük szükséges, ha az emberiség nagy része kihalna az számára még előnyös lenne, így az ökológiai katasztrófát is ki tudná védeni. Van egy ezzel foglalkozó fikciós írás, regényféle Björnsdottír: Deus.
Az egyik felmerülő kérdés, hogy lesz-e az AI számára eléggé sok adat egyes témakörökben és tudja-e ezeket minőség alapján szűrni, képes lesz-e önkorrekcióra. Az internet most is erősen szennyezett, és még az AI is szennyezi olykor l. vegetatív elektronmikroszkóp, ami nem létezik,csak fordítási hibaként, de az AI terjesztette.
Jelenleg az AI fényképek 100m-ről felismerhetők, mert olyanok mint az első digitális fotók voltak: mosottak, karakter nélküliek. Az AI generálta szövegek is mostanában ilyenek, túl tökéletesek, mint amikor a jó tanuló felel, néhány furcsa kifejezéssel, ami kontextus idegen.
Sakkjátszmák, fehérjeláncok feltekeredése, atommodellek, ezek működnek, de a fenti problémák megoldását nem látom a szegényes fantáziámmal.
Sokszor a kisebbségi álláspont az, ami igaz, a nagy többség rendre téved mindenben, ha az AI az alapján értékel, hogy mi az amit igaznak tartunk, akkor abból nem lesz semmi. Illetve max. annyi, hogy sok szakma csak felügyeleti jellegű lesz, a döntéseket az AI hozza.
@jotunder: Nekem ezt a mondatot nem akarja befogadni az agyam, az volna itt az állítás, hogy aki itthon a Facebookon bármiről nyilatkozik mint szakember, az mind hülyeségeket beszél?
@jack_of_all_trades: akinek az utóneve „elemző” vagy „szakértő”? ha kormányzati, akkor gyakorlatilag biztos, ha önszorgalmú ellenzéki, akkor csak valószínű.
Ez is egy érdekes cikk szerintem. Kevésbé spekulatív, kevésbé apokaliptikus, kevesebb benne a technoblabla, de elég reménytelen jövőt rajzol fel ez is: https://www.theguardian.com/books/2025/may/04/the-big-idea-can-we-stop-ai-making-humans-obsolete
@jotunder: Ok, kurva sokba kerulne, de ugye a cucc egyik kozponti ervelese, hogy a teljesitmenynovekedes jelentos reszet a sajat magat kodolo agentek altal elert gyorsulas (vagy energiatakarekosabb mukodes) adja. Szoval azt mondani ,hogy az Agent-2 napi mukodese tobmilliard usd lenne, nem tudom hogy kapcsolodik ide, es mi alapjan felteteleztuk (marmint miert hisszuk el az o4-nek bemondasra).
@Grrr:: …attól tartok, meggondolatlanság volt ilyen nagy ívű kérdéseket feltenned 😀 Egy rakás manifeszt grafomán nyálelválasztása azonnal elindult.
Íme:
Többezer éves kérdés, és csak a válaszolók elenyésző kisebbsége szerint épp a munka az „értelme” az (emberi) életnek. Sokak szerint a „produktív kontribúció” legnagyszerűbb megjelenési formája például egy birodalom abszolút uralása (némi karóbahúzatással, koronázással stb.). Sokan mások szerint pedig a szellemi tökéletesség elérése a lehető legproduktívabb kontribúció.
…Más mások szerint pedig a kérdés eleve értelmetlen, mivel az emberi életnek nem célja van, hanem oka (ti. megszületünk, mivel
egy petesejt megtermékenyült1 afrikai migránsgólya egy kéménybe ejt valamit).Ömm… már amennyiben feltételezzük, hogy ez, ami van, civilizációnak nevezhető, akkor a válasz: többnyire az erőszakon, a nyersanyagforrásokon, a társadalmi munkamegosztáson & hierarchián, a hiteken és mítoszokon, a csoportkohézión, az emberi közösségekben továbböröklődő viselkedésmintákon, a modern ember genetikai alapjain, a logisztikán & a tudományos felismeréseken, az egyéni önzésen stb., stb., stb., stb., stb., stb., stb., stb., stb., stb., stb., stb.
Csak az elsőrendűnek számító gyerekek értékesek? 🧐
És természetesen 42.
Nagyon jellemzőnek tartom, hogy az emberi faj tagjainak elsöprő többsége úgy gondol magára és a fajra, mint AZ intelligencia evilági megtestesítőjére. Pedig szerintem elég egyértelmű, hogy a faj része & alanya a világegyetem univerzális evolúciós folyamatainak – azaz kicsit konkrétabban: egészen biztosan csak egy (meglehetősen alacsony szintű) stádiuma a mind komplexebbé váló (és bizonyos szint fölött intelligensnek nevezhető) anyag fejlődési pályájának.
Ugyanígy erősen sejthető az is, hogy például ahogy a kémiai evolúció megteremtette a biológia evolúció lehetőségét, vagy ahogy később az Asgard archaeák megjelenése lehetőséget teremtett az eukarióták ( = többsejtű élőlények) kialakulására, hogy aztán még később az Australopithecusok kifejlődésének köszönhetően utóbb megjelenhettek a különféle emberfajták – úgy nyilvánvalóan a modern emberi intelligencia is csupán ugródeszkája (lesz) a (legnagyobb valószínűséggel) gépi intelligenciának.
Most alighanem épp valami olyan zajlik, hogy egy fa villás ágai között ücsörögve és szőrös testünk bolhacsípéseit vakargatva ámulva nézzük, ahogy az egyik bétahím/-nőstény odalenn valamiért(?) elkezd két kődarabot(??) összeütögetni(???).
Hiv.: @steinerzsiga:
Kiváló cikk és még pedigré is tartozik hozzá 😉 Én három problémát hüvelyeznék ki a sztoriból:
(1) Értem, hogy várakozások szerint egyre jobb/hatékonyabb az AI, meg egyre több területen válthatja ki az embert ám azt, hogy hogyan kell egy milliárdos léptékű népességet menedzselni azt ki kell találja kreatívitással egy AGI/ASI, mert, hogy ennek módszertana jelen tudásunk szerint ismeretlen (betűkbe foglalatlan). És ezzel az a baj, hogy az ASI-kreatívitás eléggé gyerekcipőben van még (szvsz). Vannak ráutaló jelek a nem-lehetetlenségre, de még kevesek ezek (talán, ma még kijelenthetően).
(2) Sérülékenység. Orbán-klán (pereputty, siserehad), pár fővel milyen hatékonyan tudott parazitaként megtelepedni az országon, kiszívva, kiszárítva belőle az életerőt. Egy Trump milyen hatákonysággal nullázta le a republikánusokat vagy külpolitikában a pénzes, atlanti lengyeleket, a maga előéletével, ordas primitívségével. Egyszerűen szólva durván nem áll arányban a milliárdos népesség menedzselésének költsége egy sérülékenységet kihasználó rosszindulat költségével (és hasznával): hogy aztán jöhessen a „csodás” Curtis Yarvin-os biomassza. Jelen aggyal nagyon nehéz elképzelni, hogy egy milliárdos népesség menedzsmentjének framework-je támadhatatlanul bolondbiztos legyen hosszú távon.
Egy qrva Windows-ra (ami vállalható) is képtelen a világ 40 éve.
És akkor egy szót sem szóltam a technofasizmusról, annak tágulóan avuló értelmezési kereteinek hiányosságai miatt.
(3) Ha tegyük fel sikerülne értelmes és vállalható keretek közé szorítani a milliárdos népesség menedzselését, előtérbe kerül vagy a születésszabályozás vagy a világür kolonializálásának szükségszerűsége a maga durva előfeltétel-rendszerével, problematikájával.
Hiv.: @labrys:
„Pedig szerintem elég egyértelmű, hogy a faj része & alanya a világegyetem univerzális evolúciós folyamatainak – azaz kicsit konkrétabban: egészen biztosan csak egy (meglehetősen alacsony szintű) stádiuma a mind komplexebbé váló (és bizonyos szint fölött intelligensnek nevezhető) anyag fejlődési pályájának.”
Csak egy halk megjegyzés. A tudomány mai állása szerint az evolúciónak nincs iránya és célja. Nem az történik, hogy egyre bonyolultabb struktúrák jellennek meg, hanem hogy egyre nagyobb hatásfokkal használja fel a környezeti erőforrásokat. Meglátásom szerint az intelligencia csak egy furcsa kis zsákutca aminek hamar vége lesz miután elfogynak a fenntartásához szükséges koncentrált erőforrások. Lásd pl a húsvét szigetek esete az elfogyó fákkal egyidőben megszűnő civilizációval. Szerintem ez a megoldása a Fermi paradoxonnak is. A technikai civilizáció átlagos életartama az ami túl rövid ahhoz, hogy kapcsolat jöhessen létre.
Az evolúciós fejlődésnek nincs csúcsa és a ma élő baktériumok pont ugyanannyira fejlettek mint az emberek.
@fuhur: A végére kívánkozna a fejlettség definíciója. Ha egyáltalán objektíven létezik ez a fogalom.
@fuhur: Azt is érdemes megjegyezni, hogy az emberiség evolúciója megállt, vagy legalábbis jelentősen csökkent. A civilizációnk egyik (mellék)hatása, hogy a genetikus előnyöket/hátrányokat igyekszik kiegyenlíteni. A gyengéket, akiket Darvin ellökne az utódok létrehozásától támogatjuk és a párválasztás nem a biológia rátermettség, életképesség alapján történik. Nem a legerősebb de még csak nem is a legokosabb embereknek van a legtöbb gyereke, sőt.
Alkalmazkodásunk a változó környezehez nem annyira biológiai mint technikai. (Ezt még várhatóan megszívjuk, ha tényleg beüt a klímaváltozás és egy időre megint a survival of the fittest lesz a meghatározó)
Engem érdekelne, hogy ez az AI kiírtja az emberiséget, hogyan is történne a gyakorlatban. Hogyan tartaná fenn az AI saját magát emberi közreműködés nélkül? Addig amig a teljes technológia és gazdaság nem üzemel abszolút emberi közreműködés nélkül addig az AI rá van utalva az ember közreműködésére. Egy szerverközpont fenntartásához, fejlesztéséhez és energia ellátásához gyakorlatilag a teljes globális gazdaságra szükség van. Amíg az alapanyag kitermelés, gyártás és üzemeltetés nem működik teljesen emberi közreműködés nélkül addig az ai nem tud meglenni az ember nélkül. És az utolsó 6os anyának is emberi közreműködés nélkül kell legyártódnia és rátekerednie a megfelelő csavarra. Azért ez még odább van. Szóval a Skynet még egy darabig nem engedheti meg magának, hogy kiirtsa az emberiséget.
Hiv.: @nyulambator:
„Alkalmazkodásunk a változó környezehez nem annyira biológiai mint technikai.”
Nem megált csak megváltozott. Illetve bejött a képbe a szociális evolúció AKA memetika.
A kettő nem független egymástól és a mémevolúció tempója sok nagyságrenddel gyorsabb mint a genetikai evolúcióé.
De azéert ha az elmúlt pár ezer év genetikai változásait nézed pl a tejcukor bontás képessége.
Hiv.: @fuhur:
„Az evolúciós fejlődésnek nincs csúcsa és a ma élő baktériumok pont ugyanannyira fejlettek mint az emberek.”
Ez a „fejlettség” fogalmának egy sajátos, unorthodox értelmezése (és önellentmondó, hiszen már magában a mondatban benne van a „fejlődés” szó, amit utána tagad). Eléggé ritka… Tehát (eme értelmezés szerint) a baktériumok ugyanolyan fejlettek mint a zemberek, és a zemberek (meg a baktériumok) ugyanannyira fejlettek, mint egy mondjuk (a továbbgondolt Kardasev-skálán) V-típusú lény. Hát legyen, de akkor ez egyben értelmetlenné is teszi ennek a fogalomnak a használatát. Ha minden lény egyformán fejlett…
De ez persze csak szófacsarás, nem a tényekről szól. Ráadásul itt mi (és a szaqértők is) még csak nem is a tényekről beszélgetünk (amelyek sokszor unalmasak, vagy nem is ismertek), hanem jósolgatunk, hogy mi lesz majd akkor, a távoli jövőben. Ez tudományos fantasztikum. Ami nagyon szórakoztató, csak hát, nem biztos.
A „Fermi-paradoxon” is csak az információhiány miatt paradoxon (a paradoxonok mindig az információhiány, vagy valamilyen rejtett ellentmondás miatt vannak). Minden ésszerű meggondolás azt mondja (ma még sokkal inkább mint 77 éve), hogy sok milliárd Föld-szerű bolygó lehet, csak a Tejútrendszerben is. Ennél nagyságrendekkel (1-3?) kevesebb helyen lehet élet, és még sok-sok nagyságrenddel (mennyi?) kevesebb helyen lehet értelmes élet. Na ezeket a nagyságrendeket nem tudjuk, emiatt van a „paradoxon”. De mivel nem ismerjük ezeket az arányokat (hogy a Föld-típusú bolygók milyen százalékán fejlődik ki értelmes élet), ezért nincs egyelőre „megoldása” a Fermi-paradoxonnak.
Egyébként, valóban lehetséges az is (mivel előre semmi nincs elrendeltetve, és nincs gondviselés sem), hogy az emberiség szépen kihal, mivel sikeresen kivágja maga alatt a fát, és fejre esik, és kitörik a nyaka, majd az általa addig létrehozott MI, és az MI által létrehozott gépi civilizáció megy tovább. No de akkor ennek érvényesnek kellene lennie a többi civilizációra is. Hol vannak a poszt-biológiai intelligens gépi civilizációk, amelyeknek meg kellene hódítaniuk a Tejútrendszert? Ez a Fermi-paradoxon MI-re adaptált változata.
Hiv.: @nyulambator:
„Nem a legerősebb de még csak nem is a legokosabb embereknek van a legtöbb gyereke, sőt.”
Az erő meg az okosság nem feltétlen előnyös tulajdonság az evolúciós szempontból, csak egy adott környezetben. A jelenlegiben éppen, hogy hátrányos. Ezért vagy a környezet, kell megváltozni, vagy az intelligencia és az „egészséges” ember ki fog szelektálódni a génkészletből. (pontosabban nem fognak kiszelektálódni a genetikai eredetű betegségek, szóval az lesz norma pl hogy valaki eleve cukorbetegen, meg alergiásan stb. születik) Ez a folyamat már elkezdődött.
Hiv.: @ipartelep:
Igaz. az fejlettség talán valami olyasmi értelemben értendő, hogy magasabb rendű, vagy előrébb tart egy ranglétrán, vagy valamilyen fontossági sorrendben. Márpedig ez az a ranglétra ami az emberek fejében létezik. AZ a téves gondolat, hogy az ember valami féle csúcsa vagy célja az egész folyamatnak. Van erre jó szó?
Itt is felmerült korábban, hogy az „erősebb”, vagy az „okosabb” kellene hogy evolúciós előnyben legyen. Hogy a fejlődés (változás) a gyengébbtől az erősebb felé, a „rossz” -tól a „jó” felé tart. Pedighát nem. Nincs ilyen irány. Nincs semmilyen irány, csak folyamatos kölcsönhatás a gének és a környezet között.
Hiv.: @fuhur:
Az ilyen absztrakt fogalmak (mint a „fejlődés”) megpróbálnak leírni, és megnevezni valamely szintén absztrakt, és nagyon összetett, bonyolult jelenséget. Ez a leírás nem egzakt, hanem hozzávetőleges, és pontatlan. Ezért is lehetséges az, hogy ugyanarra a jelenségre te azt mondod, hogy az nem jelent fejlődést, míg mások ugye annak nevezik. Van egyfajta konszenzus a szó jelentésére (értelmére, használatára), de a sem pontos. A nyelv, és a fogalmak ilyenek: pontatlanul, és homályosan írják le a világot. (A legtöbb vita közvetve éppen ebből adódik.)
Tehát igen, a „fejlődés”-szó konszenzus szerint valamiféle változást jelent egy összetettebb, hatékonyabb, „jobb” felé. De ugye ezek a leíró szavak maguk is eléggé homályosak, így végül is az van, hogy a homályos fogalmakat magyarázunk másik homályos, nem pontosan definiált fogalmakkal. Ez egy ilyen műfaj.
Kérdezed: ” AZ a téves gondolat, hogy az ember valami féle csúcsa vagy célja az egész folyamatnak. Van erre jó szó?”
Hogy az ember nem „célja” semmiféle folyamatnak, azt én biztosra veszem. Cél itt akkor lehetne, ha lenne olyan, a célt tételező lény, aki az egészet irányítja. Ilyenről ugye nem tudunk, babonákkal nem foglalkozunk. Célt csak értelem implikálhat, a vak evolúció nem.
Hogy az ember csúcsa-e az evolúciónak (a fejlődés hagyományos értelmében), azt nem tudjuk. Merthogy mi van akkor, ha az emberiség nem irtja ki saját magát, és továbbfejlődik egy III-típusú civilizációba (Kardasev)? Akkor az még emberiség lesz. És akkor lokálisan ott, éppen az lesz a csúcs. Ha meg az MI hoz létre egy még fejlettebb gépi civilizációt (de miért, Dadus?, az ez irányú motivációkkal mindig bajom van), akkor meg az lesz a „csúcs”. Valami lesz, mert ahogy öreganyám szokta mondani, olyan még sose vót, hogy valahogyan ne lett vóna.
Az utolsó bekezdésedre: a fejlődésről beszéltünk… Ha azt elfogadjuk, hogy az élővilág mégiscsak fejlődik valamerre, pl. oda, hogy egyre hatékonyabban tudja felhasználni a környezet erőforrásait (bár néha a saját kárára is, de az más téma), és ezt elsősorban azért érte el, mert okosabb lett, és az okossága miatt erősebb is lett, magyarán szólva egyre nagyobb mértékben ellenőrzi használja a világát, akkor ez egyfajta evolúciós előny is. Hiszen akarva, és akaratlanul is rendelkezik a többi, nála butább élőlény sorsa felett, egész fajokat irt ki, sőt hát néhány 100 év múlva új fajokat is hozhat létre, ha akar. Uralja a világát (már amennyire). Mi ez, ha nem evolúciós előny? A vak biológiai evolúció persze továbbra is vak, cél, és irány nélküli, de az értelmes lény ezen részben már felülemelkedik, és így nem csak az evolúciós állapota határozza meg a világban való létét.
Persze mindig az a kérdés, hogy pontosan mi a kérdés.
@fuhur:: teljesen igazad van abban, hogy a(z evolúció)biológusok nem szeretik a „fejlett” jelzőt használni az evolúciós folyamatok tárgyalása során. Ha alaposabban megnézed, látni fogod, hogy én sem használtam. Tudatosan 🙂
A „fejlődési pálya” szerkezetet is jobb híján alkalmaztam – egyrészt, mert nem akartam belemenni tudományosan abszolút korrekt nyelvezetű szőrszálhasogatásba, másrészt, mert nagyjából ezzel a szerkezettel éreztem (nem szakértő módon) megfogalmazhatónak azt a… jelenséget, miszerint míg a világegyetem entrópiája elkerülhetetlen növekszik, ugyanez ugyanakkor elkerülhetetlenül ahhoz is vezet, hogy itt-ott lokálisan igenis komplexebbé válik az anyag.
A kifogásolt szerkezet helyett használhatjuk a „komplexitásnövekedést” is, vagy valami hasonlót.
Mert még biológusok is szoktak olyasmiket mondani, hogy X komplexebb (nem „fejlettebb”!), mint Y. (Például, hogy a prokariótáknál komplexebb élőlények az eukarióták, vagy hogy a szivacsok idegrendszerénél komplexebb mondjuk a polipok idegrendszere stb., stb., stb.)
Szerintem a komplexitás növekedése egy ponton elkerülhetetlenül az/a valamiféle intelligencia ( = megfelelő strukturáltságú anyag) megjelenéséhez vezet – és egészen biztosan nem csak egyféle típusú, illetve „minőségű” (vagy hatékonyságú) intelligencia lehetséges/létezik.
@fuhur:: Igen, ès több jele van annak, hogy az emberiség átlagos intelligenciája hanyatlik. Mondjuk ezt módszertani okok miatt elég nehéz objektíven bizonyítani, de van róla néhány tanulmány.
@labrys:: Szvsz a komplexitást nem a faj szintjén kell értelmezni. Nem nagyon létezik olyan faj ami önmagában (más fajok nélkül) fönn tudna maradni. A „fejlettek” között bitosan nincs, alán a legprimitívebbek között akad még ilyen. A komplexitás az ökoszisztémák szintjén értelmezhető (a fajok együttesen használják az erőforrásokat és alakítják saját környezetūket). Ez aztán elvezet a Gaia szintjéig: a globális ökoszisztéma mint önszabàlyozó rendszer (mármint ami képes a bolygó klímáját számára megfelelő határok között szabályozni). Lovelock elmèletét nem szokás komolyan venni, pedig elég megfontolandó. Lovelock maga (számomra) elég meglepő módon optimista volt az emberi civilizáció és a MI szerepét illetően. Feltételzte hogy az MI majd belátja, hogy szüksége van az emberre, annak meg az élhető környezetre, így sem az emberiséget, sem az élővilágot nem akaená kipusztítani.
.
Én ezzel kapcsolatban kevésbé vagyok derűlátó. Kezdve azzal hogy az MI mitől akarna bármit is (mitől lenne akarara) ill. ha lesz neki, akkor honnan jön hozzá az inspiráció. Pl. akarna-e szaporodni (h legyen belőle több hasonló ill jobb) vagy épp ellenkezőleg, az írmagját is ki akarná irtani a potenciális versenytársaknak? Megjegyzem h az ember sem ‘akar’ szaporodni, csak szokott (mint bármely élőlény, de az MI nem az). A ‘legfejlettebb’ országokban tipikusan csökken a népesség (és az intelligenciája, l. fentebb).
@exadvocatus:: a komplexitás rengeteg szinten értelmezhető (de egészen biztosan nem kizárólag egy szinten kell értelmezni…) – például, ahogy írod, az ökoszisztémák szintjén, de biomszinten, faji szinten, egyedszinten, szervszinten, sőt akár enzimkörszinten (stb., stb.) is értelmezhetők/elemezhetők a komplex és kevésbé komplex megjelenési formák (pontosabban a komplexitási skála).
„További veszélyt képvisel, hogy az emberi munka feleslegessé válhat. A technológiai fejlődés, a mesterséges intelligencia számos munkahelyet helyettesít, és sok ember úgy érzi, tevékenységére, így rá sincsen szükség (..) pedig Isten üres embert nem alkot” – mondta Erdő Péter.
Próbálok majd találni valami időt, hogy részt vegyek a vitában…;)
Valósággá válna JT rémálma(?), az FB AI-hírek csoport friss híre szerint?
Oly szép látnom annak manifesztációját, amiről lassan 1 éve beszéltem Szegedy Krisztián (xAi) kapcsán, itt a blogon. Mégha csak béta is, mégha csak nüansznyi is lehet a performancia-javulás, mégha csak gyerekcipőben lehet is az egész cucc, de legalább first draft implementált.
Ráadásul mégcsak nem is human in-the-loop, hanem egyenesen human on-the-loop irányba mozdulva. Az ész megáll, vazze.
Mindezt (rögzítsük): 2025.május7-én. A lényeg, hogy a koncepció éledezik, és 2026 vége még nagyon messze van, pedig milyen hihetetlennek érződött ez a céldátum hónapokkal ezelőtt.
Na és miről lenne szó nagyon kevés betűvel, sietőseknek?
(1) Adott egy matematikus, aki mondjuk egy nagyobb problémát – pl.:Riemann-sejtés 🙂 – lebont lépésekre, lemmákra, összefüggésekre. Nagyobb matematikai probléma esetében mondjuk egy Terence Tao nagyobb modulokra particionálna, míg kollégái/beosztottai egy-egy modult bontanak le még kisebb modulokra, „atomi” szintre is akár: fejben, meetingen, szakmai fórumon stb.
(2) Beküldik LLM-es deep reasearch-be: ám az LLM fejreáll, mert túl nehéz neki a probléma. Eddig ugye ezt eddig is tudta az AI. 🙂
(3) Na most jön a kínai ígérvény: a betáplált problémához, a kínai AI-agent, kigenerál szintetikus training adatokat pluszba a korábbi meglévők mellé, majd ezek után a bővített adatokon próbálja folytatni a deep reaserch-öt (pontossági, tanulhatósági, stb. jutalmazási rendszerben, RL=reinforcement learning keretei között).
(4) Ugye nem nehéz elképzelni, hogy az iteráció kvázi végtelenszer ismételhető, a nap 24 órájában. A számítási kapacitás felskálázható (a módszer tuningolásával párhuzamosan), miközben a DeepSeek 671milliárd paraméteres legnagyobb modellje is futhat home pc-n, 220V-on, részben éjszakai tarifával. És ez még csak az első implementálási lépés volt (megmért és kimutatott fejlődéssel).
(+1) Itt jegyzem meg, hogy az amcsik (élén a Google Deepmind-dal) és a kínaiak alaposan szembenállnak egymással szakmailag (ahogy nekem lejön). A kínaiak kvázi mindent egy lapra tesznek fel az RL-es fejlődésre, az amcsik meg igyekeznek kerülni az RL-t. Nyilván nem ennyire fekete-fehér a dolog, de a verseny ezen a téren is nagyon jelentős (az én szememben mindenképpen).
15 percnyi YT-videó: New „Absolute Zero” Model Learns with NO DATA
12 kínai cikke: Absolute Zero: Reinforced Self-play Reasoning with Zero Data
Teljesen helyeslendő, hogy az egyház kiemelt figyelmet fog fordítani a mesterséges intelligencia hatásaira.
https://news.sky.com/story/pope-leo-highlights-ai-as-challenge-to-humanity-as-he-lays-out-vision-of-papacy-13364946
Hiv.: @Grrr:
„In his first formal audience, Leo said the Catholic Church must take the lead in facing newer threats to workers, such as AI.”
Már a fenti nyitás is rossz, szvsz. Analógiában: tűz ellen kellett volna küzdeni (aminek annyi jót köszönhet az ember), avagy Néró ellen, mielőtt felgyújtotta Rómát?
@labrys:: Természetesen nem abszolút kinyilatkoztatásnak szántam. Kezdve azzal, hogy semmit sehogyan nem „kell értelmezni”. Miért kéne? És triviális, hogy a komplexitást több szinten lehet értelmezni. A @fuhur-rel folytatott beszélgetésed kontextusában viszont szerintem a globális szintnek kitüntetett szerepe van, mint a legmagasabb szintű szerveződésnek. Már ha egyáltalán szerveződésnek tekintjük a globális ökoszisztémát. Szerintem legalábbis megfontolandó annak tekinteni, nem utolsó sorban azért, mert a földi környezet meglepő stabilitására nem nagyon van jobb magyarázat. Ha viszont elfogadjuk a bioszférát mint önszerveződő/önfenntartó rendszert, akkor minden bizonnyal ez a legkomplexebb, mert a többi, általad fersololt szint ennek csak részrendszere.