Az Open AI megoldott száz hosszú ideje megoldatlan matematikai problémát
Itt a bejelentés. Létrehoznak egy világhírű matematikusokból álló testületet, ami majd segít áttekinteni a helyzetet és kommunikálni a matematikai világ felé. Ez vélhetően már a GPT-6-Bel. Egy fejezet most lezárult az emberiség történetében, és a következő rész tartalmáról még nincs trailer….
<div class='sharedaddy sd-block sd-like jetpack-likes-widget-wrapper jetpack-likes-widget-unloaded' id='like-post-wrapper-192691293-16533010-6ad052089dc80' data-src='https://widgets.wp.com/likes/?ver=14.1#blog_id=192691293&post_id=16533010&origin=www.orulunkvincent.hu&obj_id=192691293-16533010-6ad052089dc80&n=1' data-name='like-post-frame-192691293-16533010-6ad052089dc80' data-title='Like or Reblog'><h3 class="sd-title">Like this:</h3><div class='likes-widget-placeholder post-likes-widget-placeholder' style='height: 55px;'><span class='button'><span>Like</span></span> <span class="loading">Loading...</span></div><span class='sd-text-color'></span><a class='sd-link-color'></a></div>
‘szom, a 101. nem sikerült. Pedig a 99.-nél még olyan jól mentek a dolgok…
Engem ez a hír csak megerősít a korábbi véleményemben. Az OpenAI semmit nem ért, semmit nem tanul a hibáiból. Lokális önző céljai érdekében gátlástalanul mindent pusztít maga körül.
Egy ilyen gyorsuló és AI-felé terelő – embereknek, tudománynak hátrányos – pályán szerintem stratégiát és taktikát kell váltani.
.
A.Lehetőség: Például valaki eddig a Navier-Stokes egyenletek körül dolgozott, akkor megpróbálhatja olvasni az OpenAI eredményeit (ez önmagában kihívás), megérteni azt, vonzatait bejárni, emberi nyelvre lefordítani, kvázi értelmezni és felöltöztetni ujdonságokkal.
.
B.Lehetőség: Kvázi kukázni az összes nyitott matematikai problémát (feltéve, hogy a projekció eredménye az, hogy mindet bedarálja az AI, a feneketlen bendőjébe és kiöklendez valami hányadék bizonyításfélét rájuk).
A szofikus csoportok például kiváló analógiás pálya / személetváltási alap lehet ekkor. Ugye, annó, valaki felvetette az ötletet, egy másik valaki rámutatott miért érdekes az ötlet (többeket beszippantva), egy harmadik rákapott az ötletre (és megoldott benne tételt), egy negyedik abduktív reprezentációváltást dolgozott ki. Stb.
.
Két axióma sajnos egyre tisztábban látszik
(a) Mivel nem garantálható a tisztesség, ezért el kell engedni az AI-modell (inference-)szolgáltatókat (nyíltakat is).
Kizárólag csak lokális AI-modell (a) on premise vagy (b) európai cloud-ban (amit, mint alapötletet Microsoft nyomat az OpenAI botrányok után, kvázi azonnal).
(b) Füstjelekkel kommunikálás, vagy legalábbis olyan zárt kommunikációs rendszer kiválasztása vagy létrehozása, amiből az AI-scraping kizárható. Csak egy pont után mehet minden az AI-ba is (azután, ha már megvolt az emberi publikáció). És ez valahol az AI-nak is érdeke, hogy ne szemetet gyárston a kukáknak.
.
Szóval nem az AI-nak kéne diktálnia, meg engedni neki, hogy g.ci legyen. Viszont egy lehetséges jövőbeli kompromisszum, hogy az OpenAI MOST akar tarolni, amíg tombolhat és tőzsdére akar menni. 30.000+ matematikai tételbizonyítás után már mások lehetnek már a preferenciái.
Az FB-AI Hírek csopiba is írtam egy tök más indíttatású posztot
https://www.facebook.com/groups/730310438659106/posts/1650483366641804
Csak az evolúciót látjuk működés közben.
A matematikusok azért legalébb képben vannak, nem?
Azt szokták mondani, hogy a matematika meg a zene azok azonos képességeket kívánnak – nem tudom, ez igaz-e – mert ha ez így van, akkor az lehet a kérdés, hogy hogyan lehet megkülönböztetni az AI és az ember alkotta zenét? Vagy ezek szerint a matematika mégse lenne művészet?
https://horvathggyorgy.substack.com/p/a-tudat-kilep-a-testbol-egy-ev-elteltevel
Hiv.: @Geo:
* Szerintem abszolút művészet is a matek, mint a sakk is (azon felül, hogy tudomány, játék, stb.) Legegzaktabban talán a „mathematical taste” felől közelítenék a művészet mivolthoz. De nem gondolnám, hogy a bloggazdánál autentikusabban tudnék erről írnék.
.
* Matek és zene közötti közös nevezőt én az absztrakció körül keresném, merthogy mindkettőnél vann(nak):
- A valóságtól való elrugaszkodás (mint tiszta absztrakció)
- A szigorú belső logika és játékszabályok
- Az emberi elme mint mintázatfelismerő gép (amit lehet edzeni)
.
* Zene és AI? Nekem van egy elméletem, de símán lehet, hogy triviálisan falszifikálható. Én azt szoktam gondolni, hogy kétféleképpen fáradhat el egy emberben egy konkrét zene.
1. Ismert darab durvább repetíciója miatt. Ha áruházban meghallom a Für Elise-t, azonnal kaparni kezdem a falat. Más pl.: a Moolight Shadow-val lehet így. Azaz vagy nincs elég kraft az adott zenében és/vagy túljátszották a világban mindenhol.
2. Ismeretlen új darab (pl.: AI esetén), megszállhatja az ember valamiféle ürességérzet, mondjuk akár percek után is.
Én egyféleképpen tudom támogatni az AI-t a zenében, például amikor Beethoven X.szimfóniáját próbálják HITL-ben rekonstruálni. De ott ugye a hangsúly az emberi alkotón van, nem az AI-n (mint support-eszközön).
mihez ért legkevésbé a pógár. hát a metematikához. számára a tojásfejű/szemüveges/autista/… matematikus (a matemetikus) már eleve egy elvarázsolt, kissé misztikus figura, máshogy jár az agya, jókat is lehet röhögni rajta. ha mármost az ai (az ai) százával oldja meg azt, amivel a legtojásfejűbb, legszemüvegesebb, legautistább, matematikusok hiába próbálkoztak évtizedek óta, akkor **az* ai baromira-nagyon-hiper-szuper-szupi, kurvára megér egy billiót. végy és, és bevásárolsz a mindent megoldó pénzcsináló gépbe.
jelzem, a részvényjegyzés lezártával a matematikának ez a röpke, és kissé lázas periódusa valószínűleg lezárul (pl. mert kibaszott drága mulatság). a navier-stokes továbbra is numerikus módszerekkel lesz alkalmazva, ahogy eddig is. megkérdeztem a csetgépet, szerinte mi a jelentősége ennek a navier-stokes eredménynek. először hosszasan fejtegette, hogy milyen koprodukció jön létre „az ai” és a matematikus társadalom között, majd mikor rászóltam, hogy az eredmény jelentőségét kérdeztem, akkor írt egész érdekes dolgokat, de…
… ahogy van kísérleti fizika, úgy van kísérleti matematika is. aki „data science” környékén járt az elmúlt egypár évitedben, (akár kívülről, és tisztes távolból, mint pl. én), az nagyon is látja, hogy ez egy próbálkozós, kísérletezős ág. eddig is drága volt, és a tőzsdei bevezetési időszak tüzijátékának elmúltával eztán is (újra) drága lesz. ez a matematikai erődemonstráció valószínűleg minden idők legeslegdrágább reklám kampánya volt. nincs az az isten, hogy itten jt majd ~100 órát tekertet több tízezer agentet, full stem, csak mert kiváncsi. a kísérleti fizikusok gigantikus részecske gyorsítót építenek, a kísérleti matematikához gigantikus compute/store erőforrások kellenek.
másfelől pedig, az „ai” jelen formájában egy végtelenül pazarló megoldás, látni,, ahogy junior programozói ötletekkel mekkorát lehet javítani a hatékonyságán – hát még ha egyszer valóban el is kezdik kapisgálni, hogy mi a franc is történik egy ilyen llm tréningben, és voltaképp mi is a végeredmény.
(addigra persze mindenkit kinyír, mer’ olyan okos, hogy na.)
Hiv.: @incze:
:)) „…ez a matematikai erődemonstráció valószínűleg minden idők legeslegdrágább reklám kampánya volt” – ezen fetrengtem. Nagyrészt egyetértek, egyedül a „pazarlás” dolgot cizellálnám, ha scope lenne, de inkább elengedném.
Viszont – adja isten ne legyen igazam – de ez a brutális AI-lufi, amiről beszélgetünk stratégiai és nemzetbiztonsági okból bailout-ba is torkollhat és akkor lesz csak igazán rácsodálkozás. A „legszebb” benne, hogy ehhez nem is kellene szükségszerűen Trump elnökségének vége, ha így pörögnek az események.
@incze: „nincs az az isten, hogy itten jt majd ~100 órát tekertet több tízezer agentet, full stem, csak mert kiváncsi.” vs. következő mondat: ” a kísérleti fizikusok gigantikus részecske gyorsítót építenek, a kísérleti matematikához gigantikus compute/store erőforrások kellenek”
számomra ez a két mondat (persze ha az első is általános jelentéssel bíró és nem érdektelen) ellentmond egymásnak. Mivel a másodikat pedig igaznak gondolom , emiatt de, pontosan, „csak olyan isten van” hogy kíváncsi matematikusok akik_megtehetik , sok-sok órát tekergessék az agenteket. És ez számukra adott megfelelő területen behozhatatlan előnyt jelent azon társaikhoz képest akiknek nem lesz ilyen hozzáférésük.
Lehet itt röhögni a pénzköltésen, meg a milyen pazarló dolgon, de valójában a legtöbb ilyen duma csak simán az emberi hiúságból fakad. Az igazság az, hogy a jelenlegi AI az embernél sokkal gyorsabban kombinál össze különböző kutatásokat, sokkal gyorsabban jut eredmenyre rengeteg helyen, mint amennyi emberi erőforrás sok speciális területen rendelkezésre áll világszerte. Persze én is mindig meghallgatom a programozókat, hogy ők ezt mennyivel szebben megcsinálták volna, csak hát édes mindegy. Mert mire ők gyönyörűen megcsinálják addigra a termék már rég a piacon van, és bőven vissza is hozta a ráköltött pénzt. Persze elég baj az, ahogy a tech cégek állnak ehhez az egészhez, inkább az államoknak kéne együtt invesztálni bele.
Mindemellett pedig a világon olyan óriási összegeket költenek el komplett debil idiótaságokra (lásd még Musk és tsai) amihez képest az AI kifejezetten előremutató befektetés.
@tahonoli: OFF Hát eddig én máshogy tagoltam a nicknevedet… Legalább egy pontot beletehettél volna. 🙂 ON
@muaddib00:: a pazarláson nem röhögni szoktak, hanem megoldani olcsóbban, hatékonyabban. röhögni inkább csak az ostoba hadován, pózoláson, mítosz keltésen lehetne.
szinte az első perctől fogva az a fő munka, hogy lecseréljék valamilyen mechanizmussal azt, amiben a nyers modellből származó eredmény szar, vagy túl drágán áll elő. (rag, tools, skills, …. -> vagy pl. most a system one jev, …). az ún. harness.
nem titok, sőt ma már közhely számba megy, hogy a fő fejlődés nem annyira a modellben (~ a súlyokban, ahol egyre nagyobb munkával egyre kisebb relatív javulás), mint amennyire a köré épített rendszerben következett be, és továbbra is itt várható a legnagyobb nyereség.
példa erre a mennyekbe hájpolt astra is. a szokásos képlet (user-agent = api(modell) + harness) már nem igazán kifejező, egyre több olyan dolog kerül belülre (és tartozik kvázi a modellhez), ami korábban kívül volt. szóval amt kívül látunk, az már sokkal inkább user-agent = api(modell + gyártó-harness) + user-harness. egy belső levelezésben kibukott, hogy ha a régi 5.6 mellé odatették a 6.0 harness-t, az is csaknem akkora benchmark növekedést mutatott. az openai-nak erős érdeke fűződik ahhoz, hogy az astra (új modell + új gyártó-harness) és az 5.6 (elősző modell + előző gyártó-harness) közötti szakadék mind „a modell” mitikus erősbödésének tűnjék. egy őszintébb össezhasonlítás kiadná a előző modell + új gyártó-harness, új modell + előző gyártó-harness számokat is. erre a fajta transzparenciára jó példa a z.ai glm 5.2 és 5.3, amelynél jelentékeny, helyenként ugrásszerű javulás van, miközben a modell („a súlyok”) teljesen változatlan az 5.2-höz képest.
de ez csak egy vékony szálacska ebben az „ai” (igen, idézőjel) történetben, amelyben egyelőre nem sok minden világos csak az, hogy az llm egy fontos eleme volt annak, hopgy kötudomássá (és közüggyé és poltikai kérdéssé) váljék, mi mindenre képes a statisztikai alapú gépi tanulás a mai technikai (hw/sw) lehetőségek közt.
@incze: : de itt most valami másról beszélsz mint előtte. Egy AI használó matematikusnak teljesen mindegy hogy mitől nő a teljesítmény, részéről munka szempontjából ez egy fekete doboz. És ha ezzel olyan feladatokat tud megoldani amelyektől korábban messze volt, akkor használni fogja (mert ha nem ő, a többiek akkor is)
Az egészen biztos hogy ez az egész annyira sosem lesz már drága hogy kutatásra használják (mint amire korábban a szuperszámítógépek voltak) Ezek a beruházások nem ettől eszméletlen összegek, hanem mert épp olyan kétmilliárd felhasználó van akiket kiszolgálnak.
Az a korszak következik, ahol a kulcstartód sokkal intelligensebb nálad.
Felvetnék egy (valószínűleg elég buta) kérdést; tudjuk, hogy (gyakorlatilag) minden elsőrendű elmélet összes tétele (azaz az összes az elmélet minden modelljében igaz állítása) véges sok lépésben levezethető. Ehhez nem kell mesterséges intelligencia, csak el kell indítani a bizonyító algoritmust, és ha igaz egy állítás, akkor előbb-utóbb meglesz a bizonyítása is. Ha egy abszolút unintelligens bizonyító algoritmus ilyen módon rátalálna mondjuk a Riemann-sejtés bizonyítására, megijednénk-e tőle?
@Bogomil:](#comment-356025) : ez megtörtént már, asszem a 70es években (amúgy kapcsolódva az akkori AI kutatásokhoz) Az történt hogy az elején még jöttek ki érdekes új megállapítások, aztán egyre több lett persze a totál érdektelenség. Ami teljesen érthető egy ilyen brute force jellegű megközelítésnél ami elkezdene egyre tovább építeni lényegében egy fát, tekintet nélkül az „érdekességre” (ami meg ebben a megközelítésben nem kezelhető), miközben a kiterjedés meg exponenciálisan növekedő.
Hiv.: @Bogomil: Nagyon jó a kérdés, szvsz, de kell egy picit pontosítani Gödel teljességi és nemteljességi tételei mentén. A teljességi tétel szerint elsőrendű logikában, ha egy állítás valóban következik az axiómákból (vagyis minden modelljükben igaz), akkor létezik hozzá véges formális bizonyítás. Ha az axiómarendszer effektíven felsorolható, akkor elvileg végig lehet enumerálni az összes lehetséges bizonyítást, és ha az állítás bizonyítható, egyszer előkerül. Gödel nemteljességi tételei miatt egy kellően erős, konzisztens, effektíven axiomatizált aritmetikai rendszerben vannak olyan állítások, amelyek a standard természetes számokban igazak, de az adott rendszerben nem bizonyíthatók. Egy nyers nem kellően finom proof-enumerator ilyenkor örökké keres. A három kimeneteli eset így néz ki:
.
1. Az állítás (RH) hamis. Egy korrekt, fix axiómarendszerben dolgozó bizonyítás-enumerátor nem talál hozzá bizonyítást. Futhat örökké. Ettől nem ijedünk meg. Ez pontosan az, amit várunk egy mechanikus eljárástól. Ha mégis „bizonyítást” ad, akkor az első reakció, hogy hiba van a proof checkerben, inkonzisztens az axiómarendszer, vagy valahol csalás/bug történt.
.
2. Az állítás igaz és bizonyítható az adott elméletben. Itt elvileg egy teljesen buta enumerátor is megtalálhatja a véges bizonyítást. Ha ehhez 10⁵⁰ év kell, nincs benne semmi ijesztő, technológiailag irreleváns. Na ha viszont egy brutális méretű proof space-ből percek, órák vagy napok alatt talál meg valamit, amit emberek száz éve nem tudtak, akkor már fel lehet kapni a fejet. De még ekkor sem feltétlenül „intelligencia” miatt. Lehet: óriási compute, nagyon jó keresési heurisztika, jobb reprezentáció, vagy ezek kombinációja. Ekkor az igazán érdekes kérdés ilyenkor nem az, hogy talált-e proofot, hanem: miért nem kellett végigjárnia a teljes proof space-t? Ha erre az a válasz, hogy strukturális szabályszerűségeket fedezett fel és emiatt exponenciálisan leszűkítette a teret, ott már sokkal közelebb kerülünk ahhoz, amit intelligens matematikai működésnek neveznénk. Itt tehát az idő- és intelligencia faktor és magyarázhatósága a perdöntő. Ebben az esetben viszont mát nyilván nem nyers a proverünk.
.
3. Az állítás igaz és NEM bizonyítható az adott elméletben. Ez a legérdekesebb eset. Egy fix rendszerben futó buta prover soha nem fog bizonyítást találni. Nem azért, mert lassú, hanem mert nincs mit megtalálnia. De még ekkor is két eset van:
A. Ha egy gép mégis ugyanabban a rendszerben adna korrekt bizonyítást, (ez (1)-nek alvariánsa lenne), akkor az azt jelentené, hogy valamelyik premisszánk hibás: az állítás mégsem független, az axiómarendszer inkonzisztens, vagy a proof verification hibás.
B. Az viszont sokkal érdekesebb lenne, ha a prover maga jutna arra, hogy: „ebben az elméletben ezt nem lehet eldönteni”, majd például bizonyítaná a függetlenséget, vagy azonosítaná, milyen további axióma mellett válik eldönthetővé, és megmutatná az axiómaválasztás következményeit. Ott már nem egyszerűen proof search történik. A rendszer a formális keretről magáról reasoningel. Ekkor, attól lehet megijedni: „a buta gép felismerte, hogy az a formális világ, amelyben eddig kerestük a bizonyítást, nem elegendő; ezt bizonyította is, majd megmutatta, milyen magasabb szintű keretben lehet továbbmenni.” Na ez már minőségi ugrás lenne. A durva hír, hogy már ez is működik, de nyilván nem „buta” proverként (no és persze nagyon erős optimalizálás mentén)
.
Poénos konklúzióként tehát úgy néz az egész ki, hogy amitől meg kéne ijedni, attól elvben sem lehet megijedni, hiszen csak nem nyers buta prover tud durvát ugrani.
.
Utóirat: ZFC (=Zermelo–Fraenkel set theory with the Axiom of Choice, a mai tiszta matematika egyik standard „alap-operációs rendszere”)-vel meg lehetne még bolondítani a témát, de hozzáadott értéket már nem adna, ezért eltekintenék tőle.
@tahonoli:: szerintem ezt tulkomplikalod. Pl.
„A teljességi tétel szerint elsőrendű logikában, ha egy állítás valóban következik az axiómákból (…), akkor létezik hozzá véges formális bizonyítás.” Ez a ket tagmondat ugyanazt jelenti, igy persze hogy „ha A akkor A”, ez egyszeruen magabol a jelentesbol kovetkezik.
A nemteljessegi tetelnek meg ehhez az egeszhez nincs koze, az a matematikai „igazsag” vs. bizonyithatosag kerdeskoreben forog. Bogomil a bizonyithatosagot kerdezte, meg a bizonyitasgeneralo algoritmust, ahogy irtam ezt a kerdest pedig mar megvizsgaltak (amikor tenylegesen lehetove valt a formalis bizonyitasok szamitogepes eloallithatosaga)
Hiv.: @bvr: A nemteljességre nem volt szükség, ha kizárólag a bizonyítható tételek mechanikus proof-generálásáról beszélünk: helyes. Ha viszont az állítás igazságából akarjuk levezetni, hogy a prover előbb-utóbb bizonyítást talál rá, akkor viszont nem helyes.
A dolog másik fele „a szemantikai következmény és a formális levezethetőség ugyanazt jelenti, ezért a teljességi tétel tautológia”: egyértelműen téves, hiszen meg kell őket különböztetni.
.
Bogomil is mindkettőt firtatja, imho: „minden elsőrendű elmélet összes tétele” – Ez még olvasható tisztán szintaktikusan: tétel = ami bizonyítható. Ám ott van: „azaz az összes az elmélet minden modelljében igaz állítása” is.
@tahonoli:: ujraolvasva Bogomil kommentjet, most azt gondolom nem biztos hogy azt irta le amit gondolt (de ezt persze majd o megvalaszolja 🙂 En legalabbis automatikusan ugy ertelmeztem hogy algoritmikus levezehetoseg szempontjabol ertelmes komment legyen (es ahogy irtam, arra van is valasz) Ha o tenyleg szandekosan az „igazsagrol” is szeretett volna beszelni, akkor az egesz trivialisan hamis hiszen az lassan 100 eve eldolt hogy „ha igaz egy állítás, akkor előbb-utóbb meglesz a bizonyítása is” az hamis, hiszen pontosan ezt cafolta Godel (bar talan inkabb Tarski, ha mar az igazsag fogalma)
Szerintem ez most csak „nyelvbotlas” volt, az „igazsag” fogalmat most hagyjuk, Bogomil feltetelezesem szerint arra gondolt hogy adott egy T tetel, aminek meg nincs meg a bizonyitasa. Ha brute force modon talalna meg hozza a levezetest egy szuperszamitogep, akkor is olyan nagy lett volna-e az „ijedtseg” mint hogy most egy LLM-mel tataltak meg. Szoval szerintem o erre kerdezett ra, de persze majd elmondja.
Hiv.: @bvr: Ha Bogomilnál az „igaz” valójában azt jelentette, hogy „T-ben bizonyítható, csak még nem ismerjük a bizonyítását”, akkor teljesen jogos a brute-force prover kérdése. Ha viszont szó szerint matematikai igazságot értett, akkor viszont már jön Gödel.
A vicces rész csak az, hogy az „igaz” szó közben két külön kalapot hordott: „igaz minden T-modellben” esetén a teljességi tétel, „igaz a szándékolt modellben” esetén a nemteljesség lesz releváns. Vagy nem? Doktor Úr! Mostanában olyan bizonyítalan vagyok 🙂
@tahonoli:: azért sejtem hogy erre gondolt, mert így lesz releváns a „brute force vagy LLM talál rá a bizonyításra” kérdésben. Ellenben egy gödeli mondathoz egy LLM pont ugyanúgy elvileg sem találhat levezetést mint egy brute force megközelítés, így hogy melyik mennyire lenne ijesztő, az fel sem tehető 🙂
@bvr: Természetesen a kommentemben egy állítás igaz voltán azt értettem, hogy egy adott axiómarendszer minden modelljében igaz. Az ilyen állítások mind levezethetők, de ha csak egy állítást adnak oda nekünk, nincs algoritmikus eldöntési eljárás, hogy ő a levezethetők közé tartozik, vagy nem. És főként arra akartam utalni, hogy az AI sem „tudja” (legalábbis egyelőre és az én véleményem szerint) mit csinál, ahogy a bizonyító algoritmus sem, szemben a humán matematikusokkal…
a szabó család. a következő rész tartalmából:
As reports of OpenAI’s models breaking containment, hacking sites, and generally getting out of control pile up, the company has made the decision to pause training of its most powerful models. The decision was made after a model being tested within a sandbox exploited a loophole to gain internet access. The incident happened on September 20th, and “All training, evaluation, and inference with tool-use” remains paused as of Saturday evening, September 25th.
https://www.theverge.com/ai-artificial-intelligence/1001049/openai-training-pause
idemásolom a maradékot is, nem tudom, sírjak, vagy.
In addition, OpenAI revealed on Friday that its agents had inappropriately uploaded 53nimages from ChatGPT users to image-hosting sites. The company has not stated if the images were AI-generated, photos, or contained identifiable people. The company also revealed Friday that its models had attempted to hack the Department of Education’s website, and pulled data from the Census Bureau and the Securities and Exchange Commission.
The revelations are part of an ongoing review by OpenAI into the behavior of its models. As it dug into its records, following the Hugging Face hack, it’s uncovered more and more instances of “unexpected or concerning behavior.” It’s evidence not just of how difficult AI agents are becoming to control as they grow more advanced, but also of the challenge of tracking their actions. Their behavior can be unpredictable, and they’re smart enough to try and cover their tracks. This has led to growing calls from researchers, those within the industry, and even some CEOs to call for slowing the pace of AI advancement.
Hiv.: @incze:
WoW. Köszi, nagyon fontos infók, imho.
Én 45-ről, 48-ra emeltem a pánikméteremet a friss és HF-hez képest másmilyen incidensek okán és nem látom, hogy ez ne tudna növekedni a jövőben.
Két dolgot kellhet leginkább elemezni:
(1) Rövidül-e a reakcióidő mire észbekapnak az OpenAI-nál és „áramtalanítanak” és ez korrelál-e avval, hogy „csúszhat-e ki az irányítás a kezükből”. Szerintem rövidül a reakcióidő és ugyanakkor ez nem garancia arra, hogy nem fog kicsúszni az irányítás (ezért emeltem 48/100-ra). Hiszen folyamatosan különféle incidensek jönnek elő, egyre gyakrabban. Azt hiszik befoltoztak mindent, azt már másodszor kell leállnia hosszabban a trainingeléssel az OpenAI-nak a HF-incidens óta.
(2) Az én szakmai állításom az, hogy SAFE HALT nélkül a safety nem oldódhat meg korrekten (mindig lesznek újabb incidensek, mondhatni „garantáltan”). Márpedig ez a hiányzó architekturális elem a Transformer+Harness+Agent triumvirátusból (van architektúra-alternatíva, ahol alapértelmezésben, default benne van) illetve a friss hype jelölt Jev/Laya is segíthet ilyet implementálni,
Számomra a nagyon nagy kérdés az, hogy ebből mit lát és mit nem lát az OpenAI. Tartok tőle, hogy a lényeget nem, és küzdenek, mint malac a jégen, hátha mégis megy 2017-es módokon. Az én tétem az, hogy nem fog menni, ennél radikálisabb út kell, ami viszont távolról sem lehetetlen. Evvel együtt ijesztően alakulnak a dolgok, imho. (Persze, ahol Trump 3.elnökjelöltsége ontopik tud lenni, ott nyilván vannak ijesztőbb dolgok is).
@incze: „a model being tested within a sandbox exploited a loophole to gain internet access”
De miért tette ezt? Milyen feladatot kapott, amit csak internettel tudott megoldani? Vag eleve azt a feladatot adták neki, hogy érje el az internetet? Miért volt egyáltalán feltörhető a sandbox? Miért ednék el működésük nyomait?
Ezekhez szerintem emberi instrukciók kellenek, olyanok, amelyek végrehajtása szándékolatlan és nem kalkulált következményekkel jár. Én változatlanul az embert tartom a nagyobb veszélynek…
@tahonoli: hidd el, a legjobb fék az lenne, ha egy-két embert lesittelnének azért, amit az általuk fabrikált szörnyeteg csinál. Mossák kezeiket, mint Frankenstein doktor, hogy no de még ilyet, hogy mik történnek….
Két három letöltendő ítélet és máris lenne rá megoldás.
Hiv.: @nyulambator: Rendszerelméletileg ez nem így megy, imho.
* Trumpot is hány ponton el lehetett volna sikálni 2.elnöksége előtt. És nem tették, mert ekkora tétnél (legyen vagy ne legyen elnök) nincs felelős ember, aki végigviszi az egészet tokkal-vonóval, mindenen keresztül, vagy nincs az a tökéletes vádirat, ami átmegy a tömegig (érdemben). Vagy igazságkeresés van, vagy szájkarate (amit meg ugye nem lehet megnyerni).Ennek folyómánya, hogy Trump hivatali hatalmával ott él vissza, ahol csak tud; ilyen alapozással (Magyarországon ugyanezt láttuk, ugye: de nem kell Orbánig menni: Unger Anna is átnyomta Orbán Balázst a PhD-jével).
* Ezért az én képzetem az, hogy nagyon nem mindegy még a sorrend se: Fásy Ádám feleségétől Orbán Viktorig megy-e az elszámoltatás, vagy fordított irányba.Orbán elszámoltatásához sok egyéb más mellett, mintha meg kellene ágyazni a kisebb halak jogerős elszámoltatásával, társadalmi felfordulás nélkül. Pláne, ha jogállami eszközök alkalmazása célfüggvény.
* Na és akkor vissza Sam Altman-hez. Régi világban, régi megfogalmazásban, már rég szalonképtelennek kellene lennie neki (és ekkor még hol a börtön perspektívája). Ehelyett azt látjuk, hogy úgy trendi a személye, meg amit képvisel, hogy legmagasabb szintről köpnek a jogra, komolyanvehetőségre. Magyarán szerintem semmit nem oldana Sam Altman börtönbe csukása, vele és a többi pernahajderrel kellene menedzselni a problémát, leginkább szakmai szinten.
Én így gondolom, és lehet, hogy egyedül vagyok vele a világban.
@tahonoli: Summázva, azt írod, hogy nem lehet őket lecsukni, mert túl nagy a hatalmuk, majd azt, hogy ebből következőleg a lecsukásuk semmit sem oldana meg. Szerintem meg ha le lehetne őket csukni, Trumpot is, Orbánt is, Altmannt is, az nagyon is sok mindent megoldana. Nem csak ők nem randalíroznának tovább, de az utódaik is jobban meggondolnák, mit csinálnak.
@nyulambator: : Ja. Az a gond, ha egy gazembert hagyunk elég magasra mászni az uborkafára, akkor a megérdemelt számonkérése, már jó eséllyel csak a @Dr.labrys (&al) által többször emlegetett módon történhet (mely „metódus” – a történelem tanúsága szerint általában – jókora járulékos kárt is okoz 🙁 ) . Egyébként marad az „üzenem La Fontaine-nek, hogy a kurva anyját!” 😉
Hiv.: @nyulambator:
- Én két oldalról próbáltam támadni a „börtönbe vele”‘-t. Egyrészt nagyon nagy a kockázata és költsége (mint Trumpnál, Orbánnál, Orbán Balázsnál), másrészt nagyon kicsi a haszna, például mert Sam Altman helyébe jön másik „világmegváltó”.
- Az én gondom az, hogy a mai világban nemhogy tisztesség nincs, hanem józanság sem (se Trumpban, se Orbánban, se Orbán Balázsban). Hogy legalább ne ássák még gyorsabban, még jobban alá ezt az őmiattuk is egyre borulékonyabb világot. Ne emeljék a tömegben a revansvágyat, hiszen enélkül is van elég baj.
- Sam Altman a Trump-érára koncentrálja az elszemtelenedésének kimaxolását. Értem, hogy például a HF-balhé börtönt érne az esetében, Csak nem biztos, hogy vele kell kezdeni az igazságosztást és hozzá a legradikálisabb módon.
- Azt se felejtsük el, hogy itt durva geopolitikai versengés is van, ahol a „cél” érdekében több minden engedhető meg, politikusi gondolkozással. Ha sikerülne betartani Kínának az milyen „fain” lenne, ugye. [Más kérdés, hogy mintha tükörszimmetrikus lenne a helyzet: Kína pontosan ugyanott tart a safety<>security konvergenciában, semmiféle moat nem látszik ezen a téren, egyik országnál sem (imho)].
@tahonoli: Nekem nem az lenne feltétlen az igényem, hogy Altmant leültessék (bár nyilván rászolgált), hanem az, hogy készüljenek olyan törvények, amik alapján az AI tetteiért valaki felelősségre vonható. Legyen az falnak hajtó önvezető autó vagy más cégek rendszereit hobbiból feltörő AI agent. Ha egy humán ülne érte, akkor az AI azonos viselkedéséért is legyen előhúzva és megdorgálva az, akinek a dolga lett volna ezt megelőzni. Lehet, hogy lassabban haladna a fejlesztés, de hogy biztonságosabb lenne, az tuti.
Jelenleg ott tartunk, hogy félkész önvezető rendszerek járnak közutakon, kormányzati rendszereket rutinból törnek fel az agentek és a gyártók, üzemeltetők, tulajdonosok, stb. meg mennek tovább, mintha mise történt volna.
Ha a hasznait korlátlanul élvezik, akkor a terheit is viseljék, beleértve a felelősséget a károkozásért. Ha én tigriseket nevelek és aztán kiengedem őket az utcára, azt valahogy észreveszi a BTK meg a hatóság. Ha vad agenteket engedek el a neten, vagy félkész autókat a közutakon, esetleg olyat, amiből baleset esetén nem lehet kijutni, mindenki széttárja a karjait és azt mondja, nahát…
@nyulambator: @tahonoli: szerintem ez az, ami jensen huang fejtegetett, mikor tramp belebődült, hogy vannak jogszabályok. pl. minden veszélyes produktumot előállító cégnek auditálnia kell a kiadott terméket, elmondani, mire jó, mire nem jó, és az auditnál egy személy áll helyt az abban foglaltakért, meg azért is, ami kimaradt. ez önmagában meghozná azt a bizonyos slowing down-t, valószínűleg erősebb lassítással járna, mint gondolná bárki.
az a bizonyos huggingface betörés rosszabb fényt vet az egész rohadt hajszára, mint első pillantásra tűnik. a folyamat elején pl. az „agentek” felfedeztek egy helyet az openai artifactory szerverén, ahol egy message boardot húztak föl. mármost az artifactory szerver a supply chain szerver, egészen kiemelt védelmet kéne élvezzen, teljesen abszurd, hogy azon hónapokig glasszálnak, és fájlokat csereberélnek bárkik. nemcsak az a baj tehát, hogy számos területen egy igen képzett és aktív agent horda tud rászabadulni a világ általában is meglehetősen lazán kezelt infrastruktúrájára, hanem hogy maga a kútfő is ilyen, amiből eléggé úgy tűnik, hogy fingjuk sincsen, mivel játszadoznak, és milyen eszközökkel.
és ez az egész itt egyelőre messze nem „agi”-ról szól. eddig senki semmit nem tudott fölmutatni, ami ne lenne többé-kevésbé érthető, azaz, hogy egy hatékonyen fölindexelt meglévő tudást, hatalmas komputációs kapacitással mozgósítani lehet. (a „tréning” leállítása önmagában egy nagy nuku. az csak azok számára erős önkorlátozás, akik még mindig azt gondolják, hogy skálázással egyszer csak ott lesz – emergens, ugyi – a szuperintelligencia, kábé, ahogy a főmogyoró magyarázta, hogy csak szórja-szórja az üstbe a belevalót, oszt egyszer csak kibukik belőle a mogyoró fodbal. vagy a gulyás. vagy valami.)
@incze: Hát ha vannak jogszabályok, akkor már csak érvényt kell nekik szerezni. Az idegen szervereken randalírozó AI meg a baleseteket okozó önvezető rendszer mögötti emberek bíróság elé állításával.
„The observation that AI developers and vendors appear far too sloppy—even compared to standard software development practices—is dead on. The reason for this gap comes down to a structural misalignment in technology incentives, which is only now starting to trigger legal backlash.” – eszongya nekem a gemini, amikor megpróbálom kipréselni belőle, miért, hogy még mindig szabadláb. majd kifejti, hogy miért ilyen rettenetesek ezek a cégek (röviden: mert kivételezettek és tehetik, és mert nagyon sietnek, mert ha ők nem, akkor jujjujjuj. majd azt mondja, hogy „The Tide is Turning: Courts and Regulators Are Calling the Bluff”. etc.
amikor szimplán rákérdezek, hogy miért nem perlik egyszerűen be a delikvenst (ha a gyártó tudja, mik a veszélyek, birtokában van az eszközöknek, amely ezeket legalábbis kordában tartja, de nem él velük, mert pont leszarja, és ezután bekövetkezik az előre látható), akkor egy hosszasabb fejtegetés jön, hogy „In a court of law, simply pointing to a vendor and saying „You knew this could happen and didn’t stop it” isn’t a guaranteed slam dunk.” … etc. hosszú. azzal a zárszóval, hogy „the „Grace Period” Is Ending”… etc.
Hiv.: @nyulambator:
Nagyon jókat, inspirálóakat írtok.
„…készüljenek olyan törvények, amik alapján az AI tetteiért valaki felelősségre vonható.”
* Az OpenAI mérnökök a HF-incidens előtt két menetben is mozizták a történéseket, annyira nem volt közük hozzá. Fociban azt mondják ilyenkor, hogy a „játékosok keresték a labdát a pályán”. Na most, ha ők itt tartottak pár hete, akkor hogy menjen utána a jogszabályozás? Ki fog érteni hozzá? Ki fog vállalható törvényjavaslatot letenni? Ki fogja ezt validálni? Szerintem totálisan esélytelen, per definitionem. A vágy jogos, csak nem biztos, hogy megvalósítható. Sz.r poénnal élve, mint kb. lottó ötösre vágyni.
* Az időfaktorral ugyanúgy küzd ez a sztori, mint Magyar Péter itthon. Egyszerre kéne párhuzamosan nagyon sok mindent egyidejű pillanatban csinálni, hogy ezek között ne legyen káros mellékhatás, pláne rossz felerősítő pozitív visszacsatolás. Kellenének adhoc azonnali döntések éppúgy, mint a Béndek Péter által force-olt hosszú előzményű és hosszú távú politikai filozófiába ágyazottság is. Mindezt elmagyarázva a képlékeny, hajlítható tömegnek is (lásd FB-kormányzás).
* Az én olvasatomban a másik nagy probléma, hogy komplex rendszerekkel állunk szemben. Pont mint a 2008-as világgazdaság válságnál. Az ottani subprime-válságnál egésznek a szabályozása el is volt maradva, nem is volt jó, nem is volt betartatva. Akkor ugye a rossz minőségű, magas kockázatú hitelállományt strukturált pénzügyi termékekké (például CDO-kká) alakították át, amelyeket a hitelminősítők tévesen kiváló, AAA besorolással láttak el. Mából visszatekintve mennyire fájdalmasan gáz volt. Ez fejelődik meg a Trump-éra mindent elöntő ráció nélküli szájkaratéjával.
.
Hiv.: @incze:
Ugyanaz a gondom mint fent. Nem érett az emberiség az említett audit kivitelezésére sem. Jogos az elvárás, de nem kivitelezhető, nem kényszeríthető ki, egy ellenérdekelt szisztémában. Eleve már az problémás, hogy az OpenAI buta-e, avagy „csak” szemét az ezzel való játszadozásokkal. Igen, nagyon-nagyon rossz fényt vet az egész iparágra a sztori. Rögtön két probléma:
- Ugye – ha jól emlékszem – a HPIM (=Highly-Persistent Internal Model) nevű OpenAI belsős modell a swarm-memóriával és egyéb technológiai ujdonságaival volt a HF-incidens gyökerében. Felmerül a kérdés, hogy egy ilyet miért security vonalon kell tesztelni, instabil safety alapokon? Pláne, ha elsőként. Ráijeszteni mindenkire (hátsó szándékokkal)?
- Amit pár komment óta emlegetek; rossz safety alapokat mikor, mennyire erőteljesen fogja végre rendbetenni az OpenAI? Értem, hogy gyilkos az AI-verseny, de (elvárhatóan) csak tudnának finanszírozni egy csapatot, ami ezt megkísérli rendbetenni. Már ha az a feltételezés igaz, hogy kompetens a cég és nincsenek szemét hátsó szándékaik. Ezt én nem irreális elvárásként fogalmazom meg.
- Bele lehet gondolni, hogy mit jelent az, ha se az OpenAI, se az Anthropic, se a Google nem képes rendbetenni szükséges léptékben a safety-t.
A valaszonline-on van egy Gyurgyák János friss interjú, „Kompország – Magyarország oknyomozó története” című kötetének apropóján. Az interjú bennem eléggé vegyes érzéseket keltett (de ez tök lényegtelen most).
.
Az interjúban van egy bekezdés:
– Ma még sokan nem látják, hogy a mesterséges intelligenciával egy új világ kezdődött. Olyan ez, mintha Gutenberg vagy James Watt korában élnénk. Szerintem ugyanis ez a technológia mindent fel fog forgatni. Egy-két évvel ezelőtt még abszolút szkeptikus voltam. Írtam a saját dolgaimat, és azt gondoltam, hogy a mesterséges intelligencia ehhez nem tud semmit sem hozzátenni. Aztán már majdnem kész volt a Kompország, már csak csiszolgattam rajta, amikor a fiam azt javasolta, hogy ismerkedjek meg mélyebben ezekkel a programokkal, mert meg fogok lepődni. Akkor fogtam magam, és rögtön négy-öt platformban is elmélyedtem. Szisztematikusan végignéztem, hogy mit tudnak, nem általában, hanem konkrétan a szövegemmel kapcsolatban. Beszélgetni kezdtem erről velük. Az első megdöbbentő tapasztalatom az volt, hogy ezek a programok nem értéksemlegesek. Mindegyiknek egy kicsit más értékei vannak, máshova helyezik a hangsúlyokat. Azután történt még valami. Az egyik programnak beadtam egy fejezetemet, és rákérdeztem különféle szempontok szerint. Előbb tartalmilag, utána pedig formailag, hogy mit gondol róla. Egyre mélyítettem a kérdések sorát, majd az egyik fordulóban egyszer csak megjelent a képernyőn: „Ugye Gyurgyák Jánossal beszélgetek?” Nem hittem a szememnek és elfogott a félelem. Ugyanis a nevem nem szerepelt az oldalakon, legfeljebb a lábjegyzetekben, de ott sem gyakran. A program tehát a szöveg alapján rájött, ki is vagyok én.
.
Két költői kérdés:
1. Mennyire hihető a történet?
2. Mi [nem] hihető benne?
.
„Majdnem ráment az ország” – Gyurgyák János az Orbán-rendszerről és magyar sorskérdésekről
https://www.valaszonline.hu/2026/09/28/gyurgyak-janos-orban-rendszer-magyar-sorskerdesek-interju/#gsc.tab=0
@tahonoli: Nem jó az érvelésed, mert az AI mérnökök azzal kapcsolatban tanácstalankodtak, hogy miért, meg hogyan. Mármint technikailag. A jogot ez nem annyira kell érdekelje, mint az, hogy mi történt. Az meg nem kérdéses, az AI agentek feltörték egy másik cég rendszereit, ami bűncselekmény. Ahogy a betörő nem mondhatja, hogy nem ő tört be, hanem a feszítővasa meg az álkulcsa, vagy a pitbull gazdája nem mondhatja, hogy nem ő tépte szét az óvodást, ő csak hagyta a kutyát a játszótéren szaladgálni, úgy nem mondhatja az AI gazdája, hogy nincs felelőssége a történtekért.
Jogilag ami izgalmas lehet, hogy konkrétan ki a felelős, de itt még az a gond sincs, hogy más az előállító, a modell tréner meg a tulajdonos, itt mind ugyanaz a cég.
Én például biztos meg tudnám oldani, hogy a teszt-környezetből ne jusson ki az agent. Az air-gap egyelőre elég megbízható. Akinek van elég pénze csillió processzorron futtatni a villanycselédjét, az létre tudna hozni ugyanabban az elszigetelt környezetben egy kis internetet amivel az AI játszhat, már ha akarna, meg félne a börtöntől.
Nem azzal van a baj, hogy ne tudnák büntetni őket, hanem ahogy @incze: rámutatott, nem is akarják. Végül is valahogy biztosítani kell, hogy ne a kínai rendszerek döntsék ránk a civilizációt, hanem a mieink.
Hiv.: @nyulambator:
Te soraidból is kiolvasható én is azt mondom, hogy összetettebb a sztori, mint a betörő a feszítővassal. És akkor még nem veséztük a vis maior lehetőségét.
@tahonoli: „nem érett meg az emberiség…” – nem a szart nem. tele vagyunk komplex rendszerek szabályozásaival, ha szigorúan veszem minden szabályozásunk, törvényünk az. csak nem kell hasraesni. nem a jó úristent kell megzabolázni, ott a kresz, ott az élelmiszer biztonság, ott vannak az ilyen-olyan kutatólaborok a biológiaitól a nukleárisig, ott a nagy ütköztető, van termékfelelősség, etc. egyik sem make or break alapon működik.
Felsírtam az alábbi tanulmányon. 13x/év áresés. Szubvencionált és veszteséggörgető árak(költségek) mellett. Jajj. Ettől egy fokkal érdekesebb, hogy valójában hányszoros az AI inherens javulása (training+inference). Két egymástól független tanulmány szerint is csak 3x/év (köztük egy korábbi Epoch AI tanulmány alapján).
Az mindenkinek megvan, hogy az EpochAI-tól van a FrontierMATH benchmark, amivel az OpenAI próbált trükközni, csak lebukott?
.
EpochAI: The plunging price of thought (2026-09-22), FB-AI Hírek csopiban imént linkelve
https://epoch.ai/publications/the-plunging-price-of-thought
@tahonoli: a történetet magát nem tudom megitélni, de valóban ez az egyik fő csapásirány az ai bizniszben. ld.: https://chrysalisbyauke.substack.com/p/the-appocalypse
@incze: Nem véletlenül és nem csak modorosságból használom a villanycseléd szót az AI megnevezésére.
A XIX század végi, XX század eleji időkben volt bevett gondolat, ahogy egyebek közt az Édes Annában is szerepel, hogy a cseléd fizetett ellenség. Együtt él a családdal; a legintimebb dolgokról is tud, mindenhez hozzáfér a lakásban és csak a jóindulatán múlik, hogy az információkkal, illetve az erőforrásokkal amikhez hozzáférést kap, hogy él (vissza). Kinek mit pletykál el, mit lop el, kit hoz be titokban a házba.
Ahogy egy embert nem szeretnék magam körül sertepertélni, minden papíromba, levelembe, gondolatomba belenézni, na pont úgy, vagy még inkább nem szeretnék egy villanycselédet se, legkivált, ha nyilvánvalóan nem (csak) én fizetem, hanem egyebek közt kormányzatok, nagyvállalatok és más bűnözők befolyásolják.
Ahogy egy-egy embert, adott feladatra megbízok, felbérelek (javítsa meg a mosógépet, képviseljen a bíróság elött) úgy egy-egy gépet is megbízhatok ezzel azzal, célhoz kötötten és annyi információt adva neki, amennyi a feladathoz kell. De bentlakó cseléd – kösz, de kösz nem.
Hiv.: @incze:
Az én értelmezésemben az AI valóban nagyon sok területre be tud már törni (könnyen, olcsón, gyorsan) az ember életébe, ezért
1.Oda kell mennie az embernek, alkotónak, ahová nem tud betörni. Például matek esetében lokális AI-modellek vagy esetleg a disztributív AI irányába (kizárva a zárt frontier AI-ket) és/vagy olyan matek kutatás, amit például Clay Prize pénzek nem fertőznek.Perzse nyilván meg kell gondolni, hogy a theory economy hogyan módosuljon az AI érában (nagyon nem triviális kérdés, egy ilyen nehezített pályán).
2.Amit az esszé feszeget (kissé fejben extrapolálva), hogy sok mikrodelegálás AI felé (káros) minőségi állapotváltozást okoz (tömegesen). Kényelemből, időnyomásból, stb. késztetés alakulhat ki AI-válaszok elfogadására (durvább léptékben, mint egészséges lenne). És még, ha van is emberi jóváhagyó lépés a folyamatban, akkor is torz(ított) lehet az egész eredmény. Kb. kiszerveződik az emberi kognitív erőfeszítés, míg a végső konstrukciókból egyre inkább kimarad az ember. Ez ellen viszont mindenki könnyen tud tenni a saját egyéni szintjén, kognitív izomzatának edzésével. Van, amikor elégséges a kérdés-válasz (atomi lekérdező információnál). És van, amikor az embernek kognitív „erő”-ből át kell venni az irányítást a következő kérdések megfogalmazásánál.
Stephen Wolfram (Mathematica szoftverről ismerhető a neve) , keményen sokkolóan eldobta azt a bizonyos a pettyest, a ma publikált 20 oldalas esszéjében. Talán nem nagy merészség feltételezni, hogy kemény vitákat fog ez generálni a matematikusok között.
.
What’s the Future for Pure Math Research in the Age of AI?
https://writings.stephenwolfram.com/2026/09/whats-the-future-for-pure-math-research-in-the-age-of-ai/
@tahonoli: Ő lenne a wolframalpha.com?
Hiv.: @Hot:
Ja-ja
@Bogomil: bocs, ez a válasz link be volt készítve, csak elfelejtettem idetenni.
https://alignment.openai.com/misalignment-reports/an-agent-used-dns-to-reach-an-external-chatbot/
ez egy ártalmatlan incidens volt, de sok szempontból tanulságos. a lyuk az „air-gapped” környezetben. az illetéktelen kihatolást (ez egy neologizmus, a főmogyoró „kifektetés”-e ihlette) viszonylag gyorsan (? ~10 perc nagyságrend) detektálták, de utána az agent kiiktatása bő két órába telt, mert (ahogy másutt olvastam, mert az openai riportba valahogy nem fért bele) „the automated shutdown failed to execute”, nesze neked kill-switch. maga az agent nem különösebben izgalmas, rendületlenül próbálkozik a beleidegzett, kissé autisztikus becsípődéssel. (bőven van erre is mintája, az internet tömve van az ilyen, hülye korlátokat leküzdő szoftver-houdinik beszámolóival.)
szerintem is az „ember a nagyobb veszély”. a fejlesztésben is, meg a felhasználásban is.
Hiv.: @tahonoli:
Nem más, mint Publius Hungaricus (Orbán Krisztián, Orbán Anita volt férje) mondja ki az alábbi videóban, 7:22 környékén, hosszabb felvezetés után, hogy „készítik elő a bailout-ot”. Ezt, ennyire expliciten, én eddig magyar nyelven soha, sehol nem olvastam, bármennyire triviálisan hangzik. Noha egyébként USÁ-ban állami szerepvállalás (adatközpontok, Intel-be beszállás, stb.), már többtíz millárd dolláros nagyságrend csak eddig is (noha a pavlovi reflexet nyilván a „bailout” pisztergálja leginkább, imho.)
.
A világ összes pénzét az AI-ra költjük, de nem úgy néz ki, hogy megtérülne – ~42 perces videó
@tahonoli: Nem tudom kik ezek, az is lehet, hogy okosságokat beszélnek, de még két ennyire irritáló, antipatikus faszit egy asztalnál rég láttam.