Az AI elkezdte elvenni az emberek munkáját
Számos brit lap (Guardian, Telegraph, Independent, Times, Daily Mail) hozta le a hírt:
Az Adzuna álláskereső oldal friss kutatása szerint 2025. június 30-án jelentősen csökkent a belépő szintű pozíciók kínálata az Egyesült Királyságban: a friss diplomás, gyakornoki, tanulószerződéses és junior állások száma 32%-kal esett vissza a ChatGPT 2022. novemberi bevezetése óta.
A csökkenés mögött az AI és automatizáció térnyerése áll: a cégek egyre inkább AI-alapú megoldásokat alkalmaznak költségcsökkentés és hatékonyságnövelés céljából. Dario Amodei, az Anthropic vezetője szerint az AI akár az irodai belépő szintű állások felét megszüntetheti az elkövetkező öt évben, ami 10‑20 %-os munkanélküliségnövekedéshez is vezethet.
::::::::::::::::::::::::::::::::::::::::::
Megkértem GPT4o-t keresse meg a Guardian cikket és írjon belőle egy rövid összefoglalót. Szerintem jobban csinálja, mint a magyar újságírók többsége. Ez az egész nagyon nem hangzik jól.
<div class='sharedaddy sd-block sd-like jetpack-likes-widget-wrapper jetpack-likes-widget-unloaded' id='like-post-wrapper-192691293-16532459-687863831146d' data-src='https://widgets.wp.com/likes/?ver=14.1#blog_id=192691293&post_id=16532459&origin=www.orulunkvincent.hu&obj_id=192691293-16532459-687863831146d&n=1' data-name='like-post-frame-192691293-16532459-687863831146d' data-title='Like or Reblog'><h3 class="sd-title">Like this:</h3><div class='likes-widget-placeholder post-likes-widget-placeholder' style='height: 55px;'><span class='button'><span>Like</span></span> <span class="loading">Loading...</span></div><span class='sd-text-color'></span><a class='sd-link-color'></a></div>
Az érdekes diplomás állás lehet, amit a mostani MI „el tud venni”.
Spekulálok. Egyfelől ugye, a MI-t nem lehet megállítani. Most még sokan szeretnék megállítani, korlátozni, fékezni, de ez nem nagyon fog menni, egyszer csak lesz igazi, zember-szintű MI, talán már 50 éven belül. A kérdés az, hogy a társadalom mit kezd vele, hogyan igazodik hozzá. Mondjuk az MI (a majdani, tényleg okos), kiváltja a zemberi munkák 50%-át. Akkor mi lesz? Ennek nem örülni kellene? Analógiát mondok: régen a kubikusok ezrei csatornákat ástak, hónapokig dolgoztak vele. Ma néhány markológép 1/1000 idő alatt elvégzi azt a munkát. A kubikusok ezzel feleslegessé váltak. Tényleg, hol vannak ma a kubikusok?
Amit mondani akarok, a lényeg: a technika, technológia változását a társadalomszervezésnek is követnie kell. A félfeudális, fél-rabszolgatartó társadalomban valóban nagy gondokat fog okozni az MI. De nem maga az MI (az még lehet, hogy segíteni is akar), hanem ami vele jár, a következmények, ugye pl. az, hogy nem lesz munka, nem lesz fizetés, nem tudnak kaját venni, satöbbi. Én a gondot, és a veszélyt nem az MI eljövetelében látom (meg úgyis itt lesz, akármit csinálunk), sőt, még örülök is neki, üdvözlöm, sőt várom. A nagy veszély az, hogy a társadalom nem tud hozzá igazodni. Akik a társadalmakat irányítják, és szervezik (pl. a politikusok), azoknak lövésük sincs hozzá, hogy mit kellene egy ilyen helyzetben csinálni. Nem tudják azt, hogy paradigmát kell váltani, most az „ugyanabból még többet” nem hogy kevés lesz, de direkt rossz megoldás. Sajnos pont most olyan korszakban élünk, hogy a nagy, elvi, eszmei, ideológiai alapú társadalomszervező megoldások a gyakorlatban elbuktak, diszkreditálódtak, és nincs helyettük nem hogy a gyakorlatban, de elméletben sem új. Így nehéz lesz megoldani ezt a porblémát.
„Megkértem GPT4o-t keresse meg a Guardian cikket és írjon belőle egy rövid összefoglalót. Szerintem jobban csinálja, mint a magyar újságírók többsége. Ez az egész nagyon nem hangzik jól.” Azért ez a léc elég alacsonyan volt. A Telex/444 nemzetközi rövid cikkeinek a többsége teljesen nyilvánvalóan úgy készül, hogy a sem angolul rendesen nem tudó, sem semmilyen politika/kulturális háttérismerettel nem rendelkező magyar újságíró elolvas (inkább átfut) 1-2 (de inkább 1) angol nyelvű cikket, néhány random bekezdést többé-kevésbé félreértve lefordít és elénk hány.
@steinerzsiga:: de legalább van benne
répagonzó. (Én is fogtam tegnap magamon kettőt.)Ami pedig a thémát illeti: alapjövedelem for president!
Addig nincs nagy baj, amíg a nyugdíjunkat nem veszi el. Amúgy meg nem nagyon értem. Ha elveszi a belépő szintű állásokat, kiből lesz a középvezető meg a felsővezető? Erről is érdemes lenne megkérdezni valamelyik mesterséges okosságot.
@vattablz: Mire kihalnak az utolsó junior generációból előlépett közép és felsővezetők, addigra az AI azt is tudni fogja. Hiszen ő most a gyakornok, kitanulja.
Egy idő után az AI keveselni fogja a neki jutó elektroms energiát, és elveszi magának (tőled, a kórháztól, a villamostól, a fűtéstől). Olyan nagy hülyeség ez? Irodalom: Dnyeprov: Rákok a szigeten.
@nyulambator: Látom, te is megkérdezted…
A Times részleteket is közölt. A kiskereskedelmi szektorban 78 százalékkal csökkent a junior pozíciók száma, de az IT szektorban is 55 százalékkal.
iv.: @janostothmeister:
A „Rákok a szigeten” jó novella, szeretem én is. A helyzet viszont nem biztos, hogy olyan lesz. Az MI nem „rák”, benne van, hogy „intelligens” – a rákoknak a szigeten csak állati szintű intelligenciája volt. Ugye, ilyenkor az van, hogy találgatunk, hogy mi lesz, és mindenféle történelmi, meg irodalmi példákat hozunk fel (én nem), hogy lám ott is ilyesmi volt, és ez lett belőle. De valójában a történelemben soha nem volt mesterséges intelligencia. Az irodalomban meg ugye volt ilyen is, olyan is, mindenféle példa van. A „nem tudjuk mi lesz” a jó kifejezés erre. Persze találgatni szabad. (De milyen alapon, Dadus?) Nekem van egy olyan heppem, hogy a nagyon, de tényleg nagyon intelligens élőlény az egyszer csak elkezd (onnantól, hogy nagyon intelligens lett) „etikus lenni” és nem akar ártani más élőlényeknek, sőt jót akar tenni nekik, és a világban. Az MI el fogja érni ezt az intellektuális szintet, amikor okosabbá válik az embernél. Vegyük figyelembe, hogy ez egyszer mindenképpen bekövetkezik, és onnantól… onnantól csak ebben az én sejtésemben bízhatunk, mást úgysem tehetünk.
Beláthatatlan következményei lesznek ennek. Annyira beláthatatlan, hogy még én sem látom át pontosan haha. 🙂
De sajnos ez komoly. Mi lesz az emberi civilizációnkkal, az emberi kollektív pszichével, ha az ember már nem a legértelmesebb ágens? Ha nem lesz szükség munkára? Ha a tartalmakat már nem érdemes elolvasni, mert gépek írták – tehát majd az én gépem (AI ágensem) elolvassa és cselekszik? Ha az emberek az beszélgetni már kevésbé tudó, unalmas, esetleg konfliktushelyzettel is járó valódi emberek helyett csak az iszonyú kényelmes és attraktív AI-val szeretnék majd tölteni idejüket?
És nagyon nagy regionális különbségek is kialakulnak, amik rémisztő konfliktusokhoz is vezethetnek… Ki tudja? A munka megszűnése, az ember leköszönése a világ irányításáról, a társadalmi izoláció, társadalmak szétesése a gazdag Nyugaton illetve Távol-Keleten történik meg először. A szegény Délen nem, vagy eleinte nem. Annak milyen követezményei lesznek?
Bármi elképzhető. Alapjaiban változnak meg az életfeltételek. Az is, hogy mit akarunk, hogyan tekintünk saját magunkra és embertársainkra. Miért akarnának pl. jobbos többségek fizetni ‘mások’ alapjövedelmét, ha azok semmilyen ‘hasznot’ nem hajtanak nekik már, hiszen a munkaerejükre nem lesz szükség? Nyilván kényelmes lenne számukra valahogyan kitessékelni őket, vagy legalábbis valami apartheid-államot kiépíteni, ami ugye elméletileg lehetséges, ha nincs már szükség munkaerőre. ÉS még ezer dolog.
Azért fontos megjegyezni, hogy pont 2022-ben egészen fehéren izzott a munkaerőpiac a Covid után, az entry jobok terén is. Szóval az akkori számokhoz képesti visszaesés sokkal kisebb valódi trendszerű visszaesés ám. De az irány aggasztó.
Hiv.: @Grrr:
Ez jó felvetés: mi lesz az emberrel, ha már nem ő lesz a Földön a legértelmesebb lény?
Ugye, az fix, hogy nem tudjuk mi lesz. De találgassunk. Ha nem pusztítja el az MI az emberiséget (de miért tenné ezt, Dadus, hogy utána végtelen időkig unatkozzon?), akkor maradnak még olyan lehetőségek, hogy nem akar uralkodni felette, hanem csak vele együtt dolgozni, mittudomén, a világ felfedezésén (azért az eléggé érdekes dolog, lássuk be), vagy/és/közben mellesleg az élőlények jólétének biztosításán. Ezt én esélyesnek tartom, és persze messze ez lenne a legjobb változat. De az is lehet, hogy egyfajta semleges egymás mellett élés alakul ki. Nem zavarják egymás vizeit, sőt hát egy nagyon fejlett MI-nek nem is muszáj a Földön maradnia, elköltözhet a csillagokba is. De ha itt marad, akkor ugyanúgy élhet mellettünk, mint mi az állatvilág mellett. Sőt még kedvezőbben, mert velünk ellentétben ő nem fog húst enni.
De újra mondom: nem tudjuk mi lesz.
Vetélkedjünk! Ki tud jobban riogatni? Kezdem: Mint nyugdíjas, tapasztaltam, hogy az embernek nem létszükséglet a munka. Máshogy is tud szórakozni. Tehát az én tippem Herbert W. Franke: Az orchideák bolygója. (Amikor megjelent magyarul, még szokás volt mindent elolvasni.)
@vattablz: A fiatalabbak számára óriási hajtóerő lehet a munka (vállalkozás, content creation stb.), különösen azok számára, akik ki szeretnének törni a szegénységből, valami többet szeretnének elérni, mint amire családjuk, mondjuk migráns-létük, gyengébb társadalmi kapcsolódásuk predsztinálja őket. Valamit saját maguk felépíteni, saját individuális eredményeik által definiáltatni, társadalmi státuszt elérni, nem beragadni valami orwelli gamma vagy delta kasztba.
Mások alkotni szeretnének. Vagy csak hasznosnak érezni magukat. Ha nem vagy hasznos mások számára, mivel az AI fogja a munkát elvégezni, ráadasául az AI jobb beszélgetőpartner meg masszőr is…. Akkor te mire vagy? És főleg mások mit gondolnak, hogy mire vagy? Mi az ‘értéked’? Mi lesz az élet értéke, ha az teljesen haszontalan, senkinek sem lesz rá szüksége a társadalomban?
A gyerekeim minek keressenek majd fel? Nem lesz rám semmi szükségük. Sem anyagilag, sem tehermentesítés miatt, meg nem is leszek olyan okos, szórakoztató meg szupportív, mint az AI kompánion. Csak teher lesz számukra az egész.
Van aki azt mondja, hogy nem, mert az ’emberi természet’ változatlan, és az szeretetre, társaságra, társakra vágyik. Én nem vagyok ebben annyira biztos. Az ’emberi természet’ és az alapvető szükségletek (szabadság, személyes tér, döntési autonómia) valamilyen mértékben már megváltoztak a liberális piaci kapitalizmus térnyerésével párhuzamosan; ez valószínűleg mégegyszer meg fog történni.
Teljesen hülye vagyok hozzá, de felvetődött bennem: mi a biztositék arra, hogy az AI a mi fogalmaink szerint etikus lesz? Az AI az elérhető majdnem végtelen adatmennyiségből dolgozik. Ha az adatokban egyre több lesz a negatív tartalom, az agresszió, az uszitás, stb, ha negatív irányban változik a közbeszéd, akkor nem jut-e véletlenül arra a következtetésre, hogy célok eléréséhez használható bármilyen immorális eszköz? (Ahhoz pedig még immorálisnak se kell lennie, ha ahogy @janostothmeister: mondja, egyte több energiára lesz szüksége. )
Csak abban reménykedhetünk, hogy valahol már megszületett Sarah Connor? 🙂
@ipartelep: attól, hogy egy AI valamilyen értelemben intelligensebb, mint az ember(ek többsége), nem következik, hogy tudata is van. eléggé sokan gondolják azt, hogy az nem fog menni (az, hogy úgy néz ki valami, mintha tudata lenne, nem ugyanazt jelenti, hogy van is tudata). Most fog kijönni egy vita a Behavioral and Brain Sciences erről, a target article már olvasható (Anil Seth írta, akiről volt szó posztban).
hát elég sokan gondolják, hogy az „AGI” sem lesz intelligensebb, mint az emberek többsége, hogy a jelenlegi architektúrákban az nincs benne. még nagyon sok pénzt kell befektetni a trillion dollar data centerekbe, hát minimum 1000 milliárd dollárt, ugye. egyelőre csak azt érdemes figyelni, hogyan alakulnak a tőzsdei árfolyamok, mennyire bíznak az emberek ebben az egészben. és igen, folyamatosan manipulálják őket, Amodei pl, Altman is, Musk is, sokan.
@DarthVader: Milyen etikai megközelítése lesz egyáltalán? Az embereknek is többféle van, szinte mindig keveredve egy egyénen belül az ösztönszerű erkölcsi reflexek, a racionális konzekvencialista ill. deontologikus elemek, esetleg virtue ethics – a helyzettől, külső befolyásoktól függően (más kérdés, hogy valóban alkalmazzák-e saját megközelítésüket, normáikat). Az AI miből indul ki majd?
Az egyénnél nyilván a közvetlen és tágabb környezete, a heterogén és változó társadalom fékezi és kicsit ‘átlagolja’ az erkölcsi alapú cselekvést. A szokások tehetetlenségi erőként működnek, másrészt egy-egy erősebb egyéni erkölcsi reflex (egy felkiáltás) felhívja a mások figyelmét is valami fontosra. De egy ‘AI diktátornál’ is így lesz ez?
Egy mostani transzformer-alapú GenAI-nél még el tudom képzelni, hogy a tréning során használt korpuszban megtestesülő kiátlagolt erkölcsi cselekvés és gondolatok mennek tovább. Tehát nagyon is ismerős, amit a GenAI tesz és mond. De ez így lesz a jövőben is?
@DarthVader: az az AI továbbra is transzformerekre fog épülni, nem lesz tudata, nem lesz benne grounding. nem fogja tudni azt, hogy mi a jó, mi a helyes, mert ő nem létezik. az AI egy óriási szimulált neurállis hálózat, ami alapvetően nagyon okosan képes folytatni egy tokensorozatot (nagyon, nagyon okosan). az AI nem él. és egy ideig még nem is fog élni, mármint semmilyen széles értelemben sem. az, hogy egy polipot feldobnak egy AI-val és csinálnak belőle egy hibridet,…..elvileg lehetséges, distributed brain, alkalmas lehet rá. félmilliárd neuron helyett lesz neki ezerszer annyi neuronja, mint az embernek. nem biztos, hogy jó ötlet. annak a hibridnek lehet tudata (most is van tudata a polipnak, csak nem olyan, mint az embernek, Nagel denevérénél sokkal okosabb, ez biztos)
@jotunder: Legalább most a fenomenológiával foglalkozó filozófusok kapnak 15 perc rivaldafényt.
@ipartelep: : Off Jól emléxem, Te említetted Cixin Liu-t? Tavaly csináltak a „3B Problem”-ből egy minisorozatot. Még nem láttam, de elég komoly nevek szálltak be producerkedésbe. On
@Grrr: Most velem vitatkozol? Az embernek vannak létszükségletei, de a munka speciel nem tartozik közéjük. A munka sok-sok embernek a létszükségletei kielégítése végett kell, de nem „emberi létszükséglet”. Különben sok gazdag ember nem létezhetne, meg még én se. De nem is ez a lényeg. Azt javasoltam, hogy vetélkedjünk, ki tud riasztóbb jövőképet felvázolni. Erre indítottam a megjelölt regényben szereplő utópiával, de a jelek szerint ezt nem olvastad, csak szeretsz vitatkozni, és inkább nekem estél.
@vattablz: Bocsánat bocsánat! Nem estem neked egyáltalán, csak a hozzászólásodból támadt egy gondolatom és nagyon belelendültem. 🙂 De egyáltalán nem támadás, csak kikívánkozott belőlem, úgy általában, téged meg beleráncigáltalak. Amúgy valóban nem olvastam a regényt
@jotunder: Szerintem jócskán alábecsülöd a lehetőségeket. Ezer módja van a groundingnak polip nélkül is. Az egyetlen feltétel a model inkrementális módosítása, magyarul az, hogy a friss információ (érkezzen az bárhonnan) real time vagy ahhoz közeli módon beépüljön a modellbe. Még az is megteszi, hogy mondjuk egy napon belül minden új információt kvázi a prompt részének tekint és úgy alkalmazza, aztán éjjel míg „alszik” a friss info beépül a modellbe és onnantól része a világképének.
Na jó, még egy, amit hiányolok a mai AI megvalósításokból: a visszakérdezés. Ezek most mindig azt hiszik, hogy mindent tudnak amit tudni lehet és annak alapján dolgoznak, míg az emberek észre szokták venni, ha egy-két fontos információ kéne de hiányzik és rákérdeznek.
Ami meg a tudatot illeti, annak a definíciója eléggé ködös ahoz, hogy vitatható legyen, hogy kinek van és kinek nincs. Arról nem is beszélve, hogy kell-e hogy legyen.
Én otthonról dolgozom, a kollegáimmal írásban illetve telefonon tartom a kapcsolatot. Simán el tudnám képzelni, hogy egy új „kollega” egy AI legyen, aki mivel pont annyira okos/buta mint az emberek simán elférne köztük. Furcsa lenne, hogy nem felejt el dolgokat meg hogy szabatosan fogalmaz írásban. De amúgy emailt írni tud, telefonon beszélgetni tud. Ha birtokában van a szükséges tudásnak és képességeknek, valamint tudja menet közben a folyamatosan előkerülő információkat beépíteni a tudományába, nem látom, hogy miért ne tudná egyik-másik kollega munkáját elvégezni. Most se lehetek benne biztos, hogy a kollegáimnak van-e tudata és ami azt illeti, nem is nagyon érdekel.
Riogatás 2: Minden veszélyes gépen van egy vészleállító gomb (sárga házon elhelyezett piros nyomógomb), amit vész esetén megnyom az ember és áramtalanítja a berendezést. (A német gyárakban – ahol mindent nagyon jól megterveznek, csak az embernek nem jut hely sehogyan – számtalanszor megnyomja az ember véletlenül, például a vállával, vagy nekimegy a targoncával, ebből aztán mindenféle mulatságos események következnek, mert a többi gép nem áll le.) Kérdés, hogy az AI mikor lesz elég okos, és főleg tevékeny ahhoz, hogy ezt a bizonyos gombot ki tudja iktatni. Mondjuk lefizeti a technikust – átutal a számlájára egy nagyobb összeget -, aki áthidalja a vészkapcsolót. Amennyiben az MI redundáns hálózatban működik, talán meg sem oldható a vészleállítás. A filmekben (ahol soha nem használnak egeret, hanem a billentyűzetet verik szilajon) ilyenkor bevírusozzák a rendszert. Én nem vagyok biztos benne, hogy ez ilyen egyszerű.
@vattablz: : Riogassunk: Matrix 😉
Esetleg Asimov Solaria-ja, mint jövőkép? Meglehet az nem is olyan riasztó. Kiiktatja az evolúciós pasi-nő problémát 😉
Btw. gomb. Roppant bosszantó volt az őskorban, amikor takarítónéni a partvisnyéllel telibe találta az IPL gombot a procszekrény vezérlőpultján, és egy kétórás futás ment a levesbe.
@ijontichy: Annál csak az volt bosszantóbb, amikor a porszívózáshoz pont azt a gépet húzta ki a konnektorból, amelyiken már pár órája ment egy fordítás.
@jotunder:
Mint emlitém, én hülye vagyok hozzá. Az AI válaszai: „A mesterséges intelligencia rendszereket úgy tervezik és képzik, hogy hasznosak és biztonságosak legyenek, szigorú etikai irányelvek mellett. Az a feladat, amely emberek megsemmisítését igényli, alapvetően ellentétes lenne ezekkel az elvekkel. Az AI-nak nincs saját akarata vagy képessége arra, hogy ilyen káros döntéseket hozzon. A működése a programozásán és a tanult adatokon alapul, és ezeket úgy alakítják ki, hogy elkerüljenek minden olyan eredményt, amely emberi életeket veszélyeztetne.”
„Semmilyen körülmények között sem képzelheti el a mesterséges intelligencia az iszlám radikális irányzatainak terjesztését. A mesterséges intelligencia modelleket, mint engem is, úgy tervezték és képzik, hogy hasznosak és ártalmatlanok legyenek. Szigorú etikai irányelvek vonatkoznak ránk, amelyek megtiltják a gyűlöletbeszéd, az erőszak, a diszkrimináció vagy bármilyen káros tartalom generálását vagy terjesztését. ”
Szóval 1, tervezés (dögöljek meg, ha valahol valakiknek nem jutott már eszébe más elvek szerint tervezni )
2, etikai irányelvek. (ld. a náci Németország történelme) alapján tervezni
3, tanult adatok. És ismét dögöljek meg, ha ezen adatok között nincsenek az „etikai irányelveknek” ellentmondóak.
Azért én nem vagyok teljesen nyugodt…
@DarthVader: :DDD Mondjuk úgy, hogy ez nem megnyugtató válasz, hiszen teljesen világos, hogy fogalma sincs az etikáról, annak bonyolultságáról. Ez valami röhejes PC halandzsa.
@nyulambator:@ijontichy: Nálunk a takarítónő kiporszívózott a szünetmentes tápról, azaz az akkuról. Csak utána jött az áramszünet.
Hiv.: @ijontichy:
off.
Lehet, hogy én említettem, mert nagy sci-fi buzi vagyok. Két filmsorozat készült belőle, az egyik kínai, azt nem láttam (nem is akarom), a Netflixest igen. Lesz második évad is… No meg ott van a három kötetes könyv (a filmek alapja), ami egy borzasztóan megírt (az írója egyszerűen nem tud írni), csodálatosan fantáziadús történet – csak nagyon nehéz olvasni. Nagyon ambivalens a dolog, de várom a második évadot, mert összességében ez egy régi típusú kőkemény sci-fi, ami a kedvencem, és ez aztán tényleg a végletekig elmegy, térben, és időben is.
Hiv.: @DarthVader:
Hogy mi a biztosíték arra, hogy a Meterséges Intelligencia etikus lesz? Az ég egy adta világon semmi biztosíték nincs erre. „Biztosítékok” az életben általában is nagyon kevés ügyben vannak, a dolgok képlékenyek, bizonytalanok, biztosítékok leginkább csak a biztosítéktáblában vannak.
Ez (hogy etikus lesz) csak az én feltevésem, sejtésem. Egyfajta extrapoláció által jutottam erre. Megfigyeltem… pontosabban: ezt azért elég nehéz nagy mintán megfigyelni, így inkább csak elméleti okoskodás, hogy minél okosabb az ember, annál szelídebb. Ezenkívül, az okos embernek van „etikája” (magától), míg a buta, vagy azt sem tudja mi az, vagy valamiféle kívülről rátestált etikát vall (pl. valláserkölcs). De ugye a valláserkölcs az a gyakorlatban egyáltalán nem működik etikai szempontból, erre nagyon jó példa a mi Lókupecünk, aki bár „most jött ki a templomból”, de mégis Mogyoróország történelmének egyik legnagyobb bűnözője.
Ezt az elméletet persze lehet vitatni, de csak ugyanolyan gyenge érvekkel, mint amilyen gyengékkel igazolni. Nincs rá felmérés, nehéz lenne, nem is lesz egyhamar ilyen – csak egy elmélet. Egyébként vamelyik szociológus, vagy filozófus is állít olyat, hogy az emberiség a civilizálódás előrehaladtával egyre szelídebb, békésebb lesz – amivel én egyetértek, de persze sokan meg nem.
Beszélgethetünk itt mi hónapokig az MI szándékairól, hogy milyen lesz, és mit fog velünk csinálni, akkor sem jutunk egy szemernyivel sem közelebb ahhoz, ami lesz. Hiszen még azt sem tudjuk, hogy – ez is kérdéses – egyáltalán lesz-e tudata, sőt azt sem, hogy egy MI esetén mi teszi a tudatot, mitől, mikortól jönne az létre. Volt már erről is szó: szerintem a tudat egy fokozatosan felépülő valami, és nem van, vagy nincs jellegű dolog, de hát alapvetően mégis csak arról van itt nagybaszó, hogy jósolgatunk olyasmikről, amiknek szinte egyik eleméről sem tudunk semmit.
Hiv.: @jotunder:
Hiv.: @nyulambator:
[x] Szigorúan technológiai és filozófiai értelemben JT írja le pontosabban a jelenlegi helyzetet: az AI tényleg nem „tud” semmit, nem „létezik”, nem él, és nincs tudata. Ez ma délután igaznak látszik. Hogy a holnap mit hoz, az egy másik sztori. 😀
Gyakorlati és UX oldalról viszont Nyulambator nagyon fontos dolgot emel ki: a „grounding” és a friss információ beépítése jelentősen javíthatja a hasznosságot és a hitelességet – és a legtöbb felhasználónak pont ennyi elég is, nem feltétlenül számít, hogy a háttérben nincs „valódi” tudat. Na most, ha még az agenteket is bevetjük, az lesz a „szép új világ”.
[x] A „modell inkrementális módosítása” téma szerintem „kicsit” komplexebb: Az inkrementális módosítás önmagában nem tesz csodát: a modell továbbra sem érti, csak tárolja és használja az adatot. A grounding és a tudat nem egyszerűen új adatok beépítéséből születik, hanem teljesen más típusú architektúrából és kognitív képességekből, például szenzoros inputból, állandó környezetbeli visszacsatolásból, saját belső állapotokból és célokból. Nem véletlen, hogy annyiféle grounding-nekifeszülés van, amikben Yann LeCun(Meta) csak az egyik, nem is a legesélyesebb a „tétre-befutóra”. Bár felhasználói szempontból egy „éjjel frissített” modell kényelmes lehet, a mesterséges tudat vagy valódi megértés szintjét ez sajnos így távolról sem hozza el. Ahogy JT is mondja, egyelőre perpillanat minden csak „kvázi” és semmi több.
Hiv.: @DarthVader:
Na ez volt az a téma (szvsz), amit Béndek Peti megszondáztatott a minap a FB-blogján, aztán utólagos cenzúrával(?) a „/dev/null”-ba küldte az egész hóbelevancot.
Qubit: „Titkos találkozón fantáziáltak arról, hogyan vet véget az emberiségnek a szuperintelligencia”, ami sztori egy Daniel Faggolo nevű, AI-ben nagy hatású ipse provokatív ötletén alapult.
A Qubites szerző Bodnár Zsolt, szerintem, ezt a cikket habosította fel paywall-cikké (én nem olvastam, csak ezt az eredeti Wired-cikket).
https://www.wired.com/story/ai-risk-party-san-francisco/
Na de a lényeg, amit te szerintem firtatnál, és ami szerintem qrvára mellbeverő. Hogyasszondja, ha lesz AGI, akkor mivel jobb képességei lesznek az embernél, ezért nem szabad őt emberi etikával korlátozni, mert hiszen az ember gyarló szexista, rasszista bunkó alapból és ezt nem tudja levetkőzni korlátai miatt (sőt Daniel azt mondja, hogy az atropocentrikus etika az kifejezetten erkölcstelen). Tehát a jó minőségű AGI, csinál magának jó minőségű etikát és mi ne ugassunk bele. Ez lenne Dániel szerint az Axiológiai Kozmizmus (Axiological Cosmism).
@tahonoli: Egyrészt nem hiszem, hogy kritérium lenne a szenzoros input. Messziről nézve a szenzoros input és mondjuk egy RSS feed között nincs különbség, ugyanúgy a külvilág eseményeiről hoznak hírt. Ha nem a szobában zajló eseményekről, hanem a nagyvilág híreiről van szó, nekünk sincsenek valós szenzoros inputjaink, ujságot olvasunk, hallgatjuk a híreket, olvassuk a Vincentet. Mindezeket a gép is pont így tudja csinálni, csak sokkal hatékonyabban és egyszerre temérdek csatornán ha kell.
Másrészt meg egy kamerát, mikrofont bekötni ma már nem nagy cucc. Még az se, hogy a kamerán zajló események átmenjenek egy értelmezőn, a mikrofon egy speech-to-text szűrőn.
Azt meg, hogy „nem érti, csak tárolja és használja” nem tudom értelmezni. Ha tárolja és jól használja, az praktikusan megkülönböztethetetlen attól, hogy érti. Hiszen a jól használás az értés szinonímája. Ha egy diák annyit tud, hogy v=s/t, az csak tárol. De ha meg tud válaszolni tetszőleges a sebességgel, úttal, idővel kapcsolatos feladatot, anélkül, hogy azokban a v,s,t szimbólumok előfordulnának, akor azt szoktuk mondani, hogy érti is az összefüggést.
Még csak nem is kilométer/percben számolta ki az eredményt, ami elvileg szintén helyes lenne, hanem átváltotta a szokásjog alapján elfogadott mértékegységre. Erre bármelyik fizikatanár helyeslően bólint, és úgy tekinti, hogy a diák nem csak tudja de érti is az anyagot.
No, közgazdász szemmel még egyet: ha az emberek majd nem dolgoznak, nem termelnek semmi hasznot, ki és milyen alapon fogja a korlátos erőforrásokat elosztani közöttük? És hogyan fogadja majd az emberiség ezeket a döntéseket?
És basszus, ezek fejlődnek.
Visszakérdezett!
Egy következő promptban külön megmondtam neki Kukutyin és Nekeresd távolságát majd újra feltettem az eredeti kérdést változatlan formában és ekkor már tudott válaszolni. Nem tudom mire mondanátok, hogy érti az út/idő/távolság összefüggéseit, ha erre nem.
@nyulambator:
Én erre azt mondom, hogy a kérdés (mekkora a sebesség?) megengedhető mértékig pongyola, a válasz viszont rossz, illetve általános iskola 8. osztályos színvonalú. Egy elfogadhatóan pontos és okos válasz tartalmazta volna, hogy a bemeneti adatokból csupán átlagsebesség számolható, és az út egyes szakaszain a tényleges sebesség a 0-300.000 km/sec között bárhol lehet.
\
(és akkor azon most ne is pattogjak, hogy a sebesség csak köznapi értelemben skalár, egyébként vektor)
Hiv.: @nyulambator:
Hiv.: @nyulambator:
Kiváló felvetések, ment a like 🙂
Van két alapprobléma, amit kezelni kell annak kapcsán, hogy ha a gép jól használja a tudást, számunkra sok esetben valóban megkülönböztethetetlen attól, mintha valóban értené.
(1) Attól, hogy látszólag érti illetve valóban érti, ezek filozófiailag és kognitíven nem ekvivalensek, mégha nekünk kívülálló embereknek „hibahatáron belülinek” tűnnek. Triviális példa, amit felhoztál: sebességgel kiválóan számol, de nem tudja mihez kötni („leföldelni”), hogy a 9m/s az micsoda.
(2) Amikor egy AI-modell matek-érettségi példákat old meg, formailag hibátlanul, ezért maximális pontszámmal, attól még a humán javító tanár rájöhet arra, hogy tökéletes megoldás mögött nincs valódi tudás, és ezt lehet benchmarkolni (ilyen lehet például a MLE Benchmark). És itt azt kellhet észrevenni, hogy nem elég, ha a tanár elöl végre sikerülne elfedni a nem-tudást minden matek-feladatnál, hanem, hogy ha valóban értésről lenne szó, az valami hihetetlen léptékben kitágítaná a horizontot az AI előtt, a grounding nyomán.
Szerintem a valódi AI-k tudata egyes területeken nagyon is emberinek fog tűnni, más területeken azonban brutálisan nem emberi lesz. Egyfelől az igazi AI-kra egészen biztosan (és hamarosan) jellemző lesz majd az olyan szintű komplex működés (többrétegű önállapot-értékelő & -módosító feedbackekkel, „erkölcsi” alapértékekkel és
ösztönzőkkeldrive-okkal, az ezekből és más egzisztenciális tényezőkből következő célokkal, valamint kommunikációs és [információ]manipulációs technikákkal, másodlagos és harmadlagos reprezentációval, én- és öntudattal stb., stb., stb.), ami ekvivalens a Homo sapiens által tudatinak nevezett folyamatokkal. Másfelől azonban meg fognak jelenni a „gépi” intelligencia olyan területei (sőt, alighanem exponenciálisan egyre több), amelyek a mi emberi értelmünk számára jelenleg még csak el sem képzelhetőek, illetve emberi szempontból értelmetlenek/értelmezhetetlenek.Egyébként meg továbbra is azokkal értek egyet, akik szerint az AI-k kialakulása, léte és az emberi komplexitást egészen biztosan messze meghaladó intelligenciája a világegyetem egyik alapvető & könyörtelenül determinatív tendenciájának, az értelem (azaz a mind komplexebbé váló anyag) evolúciójának elkerülhetetlen lépése/fokozata.
A folyamat elején mi, emberek, átélhetjük majd, mit érzett egy Australopithecus, amikor találkozott valamelyik korai Homo-faj képviselőjével 🙂
Aztán ez nagyon gyorsan el fog múlni, és sokkal inkább a házi macskák szerepe vár ránk. (Vagy ha pechesek leszünk, a házi nyulaké.)
…De aztán ez is nagyon gyorsan el fog múlni.
(Csak a
szerelemlábgomba örök.)…Ha valaki pedig optimista verziókra vágyik az AI-emberi koegzisztálás témájában, akkor okvetlenül ajánlanám neki Ian M. Banks Kultúra-ciklusának olvasgatását. Azok a könyvek ráadásul szórakoztatók is.
Hiv.: @labrys:
A gondolatmenet eme pontjáig eljutva, azonban felmerül a nagy kérdés, hogyha az intelligens szerves élőlény a fejlettségének egy fokán szükségszerűen megalkotja a nála okosabb önfejlesztő MI-t (ezt nem is tagadjuk), amely az önfejlesztés révén idővel olyan okos lesz, hogy azt a szerves élőlény már fel sem tudja mérni, és ez a nagyon okos MI nyilvánvalóan nem fog a születési bolygóján maradni, hanem kitekint a világegyetembe, akkor most hol van ez az MI (a mások által készített – sőt hol van az idegen MI-k sokasága), miért nem látjuk, és egyáltalán, mi a kő tyúkanyó kend? (Vazze, ez egy db. mondat volt.)
Persze erre sincs válasz. Több minden lehet, hadd ne soroljam, csak az egyik verziót mondom: lehetséges, hogy az okosság, intelligencia nem tud még csak lineárisan sem növekedni. Lehetséges, hogy ennek vannak bizonyos fizikai korlátai. Egy olyan parabola grafikonja írja le, amely ellaposodik. Ez azt jelentené, hogy az időben nálunk 100x öregebb MI nem 100x okosabb, hanem mondjuk csak 5x. Bár valójában azt sem igazán tudjuk megmondani, hogy milyen lenne az az 5x okosabbnak levés.
Szóval: hol vannak? (Zárójelben: azt hiszem, az univerzum, és a fizika kutatása során még lesz néhány naaaagy meglepetés.)
Hát… nem tudom. Még mielött rátértem volna a Kukutyin-Nekeresd volnalra, ezt kérdeztem tőle, hogy lássam, visszakérdez-e a városok távolságára:
Nem kérdezett vissza, mert tudja, mi az, hogy Pest meg London és tudja milyen messze vannak. Ezen kívül spontán megjegyezte, hogy a kérdés irreális, ilyen gyorsan csak extrém járművek haladnak, amikkel nem járunk Pest-London útvonalon. Baromira nem csak a v=s/t-t alkalmazza mechanikusan, hanem kontextust teremt, megért, visszakérdez ha kell és spontán jelzi a kérdés/válasz irrealitását.
Kurvára tudja, hogy mi merre van. Ez amúgy egy tök ingyenes ChatGPT 4.1 nano.
Más, de ide:
Azt tapasztalom, hogy a diktátorok, autokraták, despoták és egyéb állatfajták sokkal hatékonyabban használják az AI-t mint a demokraták, nyilván a küldetéstudatuk is szerepet játszik ebben. A nemdemokraták sokkal küldetéstudatosabbak és ravaszabbak mint a demokraták. Ennek szörnyű következményei lesznek szerintem. Az emberiség tényleg hülyül, akik ennek a folyamatnak végét akarnák vetni le vannak maradva és az AI adta lehetőségeket sem használják ki olyan hatékonyan mint a szaroldaliak.
IBM’s HR AI Agent 🤖
Automates 94% of HR queries—from benefits to policy—to replace routine HR roles.
IBM has already cut hundreds of HR jobs, pivoting team members into “AI ops manager” roles.
@aerduloensamtonight: Ez a „94% of HR queries” pontosan azokat a kérdéseket fedi, amik egy jól szervezett, tartalommal feltöltött, frissen tartott HR weboldal mellett sosem merülnek fel. Amennyi energiával kitanították az AI Agentet, azzal az erővel rendbeszedhették volna a weblapjukat.
Emellett, van egy olyan érzésem, hogy ahogy egy magára hagyott weboldal elavul és használhatatlan lesz, ugyanígy fognak rájönni két év múlva, hogy az AI agent a tavalyelötti válaszokat adja, miközben a törvények és más szabályok megváltoztak. Ha meg folyamatosan frissítgetik a modelt, többe fog kerülni mint az emberek, akiket kitettek.
@nyulambator: Minden ilyenre lehet mutatni egy másikat, amiből világosan kiderül, hogy lövése nincs hogy miről beszél.
A focisták még biztonságban vannak.
@ipartelep:
Kérded:
…”és ez a nagyon okos MI nyilvánvalóan nem fog a születési bolygóján maradni, hanem kitekint a világegyetembe, akkor most hol van ez az MI (a mások által készített – sőt hol van az idegen MI-k sokasága), miért nem látjuk,…”
Lehet itt tudományoskodni, számolgatni, hogy miért nem látjuk.
Pedig van egy nagyon egyszerű válasz.
Szóval: mi a bizonyítéka, hogy léteznek földönkívüli intelligens lények?
– Hát hogy nem veszik fel velünk a kapcsolatot.
🙂