Ma lezárult egy fejezet az emberiség történetében. A matematika, ahogy eddig ismertük, többé már nem létezik. Valami új kezdődik, és nem tudom, hogy mi, de reménykedem benne, hogy az emberiség részese lehet az Új Matematikának.
Az Open AI ma nyilvánosságra hozta azokat a problémákat amelyeket megoldott. 377 cikkről van szó és több mint hétszáz konkrét probléma megoldásáról. Emlékszem arra, hogy majd negyedszázada milyen boldog voltam, hogy a szofikcsoportokra megcsináltuk a Kaplansky-sejtést. Hát a Kaplansky-sejtést most megcáfolták kettő karakterisztikában. Az egyik első posztom, még 2009-ben a Thompson-csoportról szólt, miután valaki azt állította egy preprintben, hogy a Thompson csoport amenábilis. Nem, nem az. És sok minden másképpen van, mint gondolták, és sok minden valóban úgy van, ahogy gondolták.
Látszik, hogy még nem képes arra, hogy mindent megcsináljon, amit elvileg meg lehet csinálni, de szerintem mindent meg tud csinálni, amit az ember meg tud csinálni. Vagy majdnem mindent. Mostantól az a kérdés, hogy mi a matematika feladata. Nem tíz év múlva, hanem holnap. Én abban reménykedem, hogy több értelme lesz matematikát csinálni, nem kevesebb, hogy mostantól a matematika és az emberiség érdekei közelebb kerülhetnek egymáshoz.
Ami most történt az nyilván sok mást is meg fog változtatni, nem csak a matematikát. A színházat nem, de szinte minden mást igen. Erre fel kell készülni. Ennek a felkészülésnek pedig a tevékenységünk középpontjában kell lennie.
<div class='sharedaddy sd-block sd-like jetpack-likes-widget-wrapper jetpack-likes-widget-unloaded' id='like-post-wrapper-192691293-16533016-6ac9482c968eb' data-src='https://widgets.wp.com/likes/?ver=14.1#blog_id=192691293&post_id=16533016&origin=www.orulunkvincent.hu&obj_id=192691293-16533016-6ac9482c968eb&n=1' data-name='like-post-frame-192691293-16533016-6ac9482c968eb' data-title='Like or Reblog'><h3 class="sd-title">Like this:</h3><div class='likes-widget-placeholder post-likes-widget-placeholder' style='height: 55px;'><span class='button'><span>Like</span></span> <span class="loading">Loading...</span></div><span class='sd-text-color'></span><a class='sd-link-color'></a></div>
‘Erre fel kell készülni. Ennek a felkészülésnek pedig a tevékenységünk középpontjában kell lennie.’
ez eddig soha nem sikerult, miert sikerulne most
nem állítom, hogy sikerül, csak azt, hogy ha nem sikerül, akkor ….
Szerintem a jövőben, ilyen esős napokon, a gyerekeket iskolai kirándulás helyett ilyen múzeumokba viszik majd, ahol a tárvezető bacsik meg nénik elmondják nekik hogy hogy is vót az, amikor régen az ún. matematikusok maguk bizonyították a tételieket. Én egy ilyen tárvezetőbácsi állást szeretnék megcsípni, és erre szeretnék felkészülni.
Előző kommentemben említett Balázs megosztotta párnapos twitter-posztját, a témában. Érdemes elolvasni, belegondolni. Én lázadok, de ennek értékét relevánsan csökkenti, hogy evvel én nem viszem vásárra a bőrömet.
.
Két jóslat:
https://x.com/pozsgaybalazs/status/2102896555418177667
Hiv.: @csingiz:
abban a muzeumban biztos fognak mutatni logarlecet is (https://hu.wikipedia.org/wiki/Logarl%C3%A9c ) es annak nagy varazsloit, meg elotte meg az abacus (https://en.wikipedia.org/wiki/Abacus) ordogi muveszeit
aztan olyanokat akik meg kezzel integraltak vagy derivaltak (mint mi az egyetemen, volt egy derivator srac is), vagy papir leveleket irva kommunikaltak
Ez egy optimizmustól sugárzó poszt volt. Mindig állítottam, hogy Jótündér javíthatatlan optimista. (Schiffer szokta mondani, hogy ő „mindig is azt állította”. Tőle mindenesetre elhatárolódnék.) Most én jövök, de nem tudom, hogy optimista, vagy pesszimista megjegyzés-e a következő hozzászólás: De, a színházat is!
Azert erdekes lenne megnezni nem csak azt, hogy mi van a 700 problema kozott, hanem azt is, hogy mi nincs. Milyen témakörök maradtak ki teljesen.
Ha ez megtörténne, az attól tartok, hogy a szigorú logikai összefüggések használatára törekvő gondolkodás villámgyors hanyatlását, gyakorlatilag a végét is jelentené. Magyarán mindenki azt mond majd, amit akar, minden csak véleménynek számítana, valóban a egy „post truth” világ jönne el. Az igazság nem „odaát”, hanem a szilícium alapú szerkezetekben létezne csupán.
@kiazmármegint: 4000 problémát adtak neki, ebből jött ki a 372 megoldáscsalád. a kiváló bizottság azt nem tudta elérni az Open AI-jal, hogy mondják már meg, mivel próbálkoztak.
Nem tudok szabadulni a gondolattól, hogy itt a fogolydilemma egy változatát látjuk élesben működni, csak ezúttal nem a büntetés elkerülése, hanem a mohóság megjutalmazása volt a tét. Ahhoz képest, hogy még az a lehetőség is adott volt, hogy a foglyok (értsd: nagyobb AI-fejlesztők) összebeszéljenek, sikerült megoldani, hogy mindenkinek rossz legyen.
„a kiváló bizottság azt nem tudta elérni az Open AI-jal, hogy mondják már meg, mivel próbálkoztak”
hát igen, pedig ezt lenne fontos tudni. Ha az lenne a helyzet hogy minden területen mindenféle problémára egyformán erős, akkor a helyzet annál is rosszabb mint ami a fent idézett X posztban van.
ha viszont jól behatárolható miben hatékony (pl. amiről már volt szó, hogy példát (tipikusan ellenpéldát) kell konstruálni), szóval ha van egy ilyen mintázat, akkor legalább (egyelőre!) csak azok a területek estek el.
@Hottentottenstottertrottelmutterattentäter… usw:
rossz pillanatban ertunk az AI elszabadulasahoz, szerintem esely sem volt a megegyezesre, annyira megosztott a vilag. a tobbi nema csond. varjuk mi lesz, nem kell tul sokaig varni. mondjuk 10 ev.
Szerintem ezt nem kell túldimenzionálni. Az AI fejlődése persze transzformatív hatású és mindenkit erősen érinteni fog, de konkrétan ez a 372-es katyvasz a nagyvilágban dolgozó matematikusok 98%-ának az életét egy hangyányit se befolyásolja. A Navier-Stokes sztori már több mint egy hónapos és még szerintem senki el nem olvasta végig azt a bizonyítást, a fluid dynamics terület egészére konkrétan nulla hatással volt. Most kiderült hogy még a Lean-formalizációja is rossz.
Felkészülni? Mindenesetre én vettem 4 GPU-t, ami nagyon hasznos ha nincs kint 35 fok…
De tegyük félre a viccet. Ma még szerencsés esetekben összeadódik az emberi inteligencia és az AI „nem túl okos, de nagyon erős” okossága. Ezzel csak annyit akarok mondani, hogy az AI által elért jó vagy rossz eredmények mögött is emberek vannak.
Az arány viszont drámai sebességgel fog az AI felé billeni.
Egy öntanuló algoritmust/alkalmazást írok, amelyik sok adatból dolgozik, táblákat olvas adatbázisból, stb. Codex-el dolgozom, néha Claude-al. Ez történt a hétvégén: az algoritmus adott lépésben egy adott döntési dimenzióra egy score-t kell előállítson, ez használatos az önszabályozáshoz. Megbeszéltük a számolást, a rendelkezésre álló tudásból javasolt egy confidence level dimenziót, mert szerinte a sima score nem elég releváns; javasolt formulát is, hogy hogyan tudjuk ezeket kiszámolni (score és confidence). Mondtam neki, hogy ez nagyon jó, de sok olvasás lesz erre, nem lehetne az előző méréseket tárolni, és inkrementálisan számolni, különben leolvad az adatbázis. Dehogynem, mondta, majd levezette, bazmeg, levezette, LaTexben kiírta a bizonyítást, de mondta, hogy ahogy így számolt, lehet, hogy ha ezt formulát használjuk, akkor a score-ok túl hamar fognak konvergálni egy semmitmondó átlaghoz. Kérdeztem, hogy erre mi a megoldás, ha jól értem, ezt így most ebből a képletből nem lehet megmondani, mondta igen, mert függ az inputtól, de ha gondolom, szimulál nekem egy pár szcenáriót. Természetesen, mondtam credit mint a tenger, nosza. Leimplementálta a még nem kész algoritmust (!), leimplementálta a szimulációt, számolt relevanciát, hogy hány szimulációs ciklusnál lesz értelmes mennyiségű adat, lefuttatott 20e-t, elémkúrt egy gyönyörűen dízájnolt, színes-szagos riportot, amiből nyilván egy pillanat alatt ki tudtam hámozni, hogy a képletben az n/k+n résznél k=10-re túl meredeken konvergál.
.
Vége a világnak, legalábbis annak, amit ismerünk, ez biztos, de az is biztos, hogy rég volt ilyen pezsgő intellektuális-szakmai-előremutató beszélgetésem (?), vagy nemtudom mim. Igazi, addiktív mentális pezsgés. Rettenetesen jó érzés volt, így aztán tolom, mintha nem lenne holnap, hiszen ki tudja, meddig lesz fizetésem és meddig tudom megfizetni ezt a csodálatos élményt 😀 😀 😀
@halatlangazember: Pont mint a beteg, aki a tüdőrák műtéte elött még gyorsan elszív egy cigit.
Elhasználja az energiát, a vizeinket és nem elhanyagolható valószínűséggel elpusztítja az emberiség javarészét, de addig is élvezeteset lehet vele beszélgetni.
Hol van ilyenkor Sarah Connor?
Hiv.: @nyulambator:
Ha tudnék like-olni, like-oltam volna halatlangazember kommentjét, imádtam olvasni.És te nagyon borúsan reagáltál rá, mégha jogosak is az aggodalmak.
Én ezt tenném hozzá:
* Így vagy úgy, de approximatíve 100% eséllyel mind meghalunk, a legnagyobb bizonytalanságok közepette.. Bízzunk benne, hogy nem egyszerre, kataklízma hatására.
* Az AI-t lehet jóra használni, ráadásul progresszív felskálázással. Ráadásul demokratizálódásos mellékhatásával egyének tömegének segíthet jobbá válni. Igen, tudom, a tévé vagy az internet terjedése inkább kloáka-csatornákat nyitott meg és nyilván az AI-slop is teret követel magának. De a lepényhal meg utoljára.
* Átlagnál picivel erősebb otthoni PC-vel vagy cloud-os AI-vel, QPU-s kvantumos platformmal, mindenkinek lehetővé válik kiteljesedni, jót tenni. A Maslow-piramis 7.szintjét is ostromolva akár(!). „Csak” annyit kéne elérni hozzá, hogy az első szint ne omoljon be,
* Szóval az új érában szerintem van lehetőség, lehet megragadni és persze nyilván nincs ingyen ebéd.
@tahonoli: Hát ez az úgyis mind meghalunk azért nem kimondottan a bíztatás, amire számítottam.
Altman: „I think A.I. will probably most likely lead to the end of the world, but in the meantime, there’ll be great companies created with serious machine learning.”
Musk: “I think we should be very careful about artificial intelligence. If I were to guess at what our biggest existential threat is, it’s probably that.”
Hubinger: „We really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade”
És akkor még bele se kaptam abba, hogy szarrá zúzza az úgy-ahogy, törékenyen elkocogó társadalmi berendezkedést és gazdaságot, miközben senki nem gondolkodik azon, hogy nézne ki egy post-AI társadalmi berendezkedés és gazdaság. Vagy abba, ahogy generációkat szoktat le a gondolkodásnak még arról a minimális fokáról is, amit AI elött kénytelen volt gyakorolni. Vagy a vizuális és akusztikus környezetszennyezésbe, ami az elmúlt pár évben ellepi a világot. Vagy az energia, víz és egyéb ügyekbe.
Nem kétlem, hogy „Az AI-t lehet jóra használni”. Egy fejszét is lehet jóra haználni.
Egy nagyon szigorúan korlátozott AI sokat segíthetne. Célorientált rendszer ami matekozna jotunder helyett/mellett. Célorientált rendszer a rák gyógyítására. Szakértő rendszer, ami az orvost, autószerelőt, péket, történészt, programozót segíti a munkájában. De a doktor asszisztens nem beszélget Miltonról, nem ért a hálózati rendszerek feltöréséhez és nem kapja meg a rakéták indítókódját. Akkor leginkább csak attól kéne félnünk, hogy ez a technológia terroristák, diktátorok és bankrablók kezében is működik. Amerre jelenleg megyünk, az viszont arról szól, hogy adjunk ennek a morálisan két éves savant idiótának a kezébe minden lehetséges eszközt, poroltót, zsebszámológépet, atombombát, gumikacsát meg metszőollót és nézzük meg mi lesz belőle. És ezek a „jó fiúk”. Arról nem is hallunk, mit kezdenek ezzel a cuccal a rossz fiúk.
Mindeközben: meghalt Margaret Hamilton, egy ikon a számítógép őskorából 🙁
@nyulambator: : Na ja. Remélem a pár évem nyögdíjig még kibírja, aztán zöldség-fürtösparadicsom…etc. a kertben… 😉 . A kérdés már csak az, melyik országban? :-/ Feltéve, hogy a „vízért-energiáért… stb.” addig nem robbant ki valami csúf világégést 🙁 .
Az AI-t alig használtam/használom (nekem kb. 10%-ban segít). Kissé elszörnyedve nézem, amint értelmesnek tűnő emberek lelkendezve tapsikolnak, mint hülyegyereck, amikor először elviszik a kuplerájba 🙂 . Már a mobcomm socmed függőségnek is volt egy számomra túltolt szintje, de az még a „gyorsuló idők” miatt elment (főképp munkaügyben). De „sör-kávé-süti mellett face-to-face” helyett AI-val trécselni, mekkora személyiség torzulás már? Ám ahogy látom, ez bizony tendencia 🙁 .
Ha már Sarah Connor (avagy „ezek a barmok semmiből sem tanulnak”)… én nem tartok egy „szkájnettől” a közeljövőben, azonban nekem, mint egyénnek kukkmindegy, ha egy „harczirobot” a szkájnet, vagy moszkva-peking-washington… fura ura miatt jönne/repülne szembe velem 🙁 . És ha már reményhal… remélem nem mi vagyunk itt a „halálsoron beszélgetők”, amint jövőt tervezünk 🙂 . Rohadtul beteg gondolat 😀
Ez volt már?
https://ista.ac.at/en/news/a-mathematical-universe-in-a-sandbox/
Ha sikerül a gondolkodás terhét teljesen levenni a széles néptömegek válláról, azt az emberiség felhőtlen örömmel fogja üdvözölni. Már az okostelefonok intellektussorvasztó hatása is tisztán mérhető a legújabb generációk körében – a gyerekek konkrétan hülyébbek lettek, statisztikailag mérhető mértékben is –, de ha a bármilyen kérdésünkre kész feleletet kínáló gépi „intelligenciák” is olyan köznapiakká válnak, mint a mobilok, a franc se akar majd tanulni/emlékezni/gondolkodni. (Illetve csak egy elenyészően kis létszámú, különc réteg akar majd – de hát perverzek mindig is voltak, minden területen.)
Mégis csak ez lehet a Nagy Szűrő.
@labrys: Egy jó napkitörésig… 🙂
@ijontichy:
én nem tartok egy „szkájnettől”
Hát pedig egészen biztos lehetsz benne, hogy az AI model amelyik a nyilvánosság elött számtanpéldákat old meg és cicás videókat generál, az a Pentagonban, Tel-Avivban, Moszkvában, Pekingben meg még ki tudja hol, háborús stratégiákat dolgoz ki, drónt vezérel és azon dolgozik, hogyan lehet a performanciacsökkentő emberi tényezőket kiiktatni a döntési folyamatokból.
Mert ha mi nem csináljuk, akkor ők nyernek.
@nyulambator: nem tudom megfejteni a morális dimenzióit. Vannak próbálkozások, de ez az egész AI annyira más paradigmák mentén mozog, mint bármi eddig az emberiség (kultúr)történetében, hogy nem tudom, hogy bele lehet-e gyömöszölni az eddigi kategóriákba.
@halatlangazember: Rendkívül kínos lenne, ha az derülne ki, hogy az emberiség írott kultúrájának legalább ötezernyi éve alatt nem sikerült morális alapvetéseket kigondolni. Az, hogy éjáj témában konkrétan mi következne ezekből az alapvetésekből, nyilván lehet további morfondírozás tárgya, de hogy paradigmaproblémák legyenek?
@Hottentottenstottertrottelmutterattentäter… usw: egy szóval sem mondtam, hogy nem sikerült a morális alapkérdéseket kigondolni, a kérdés az, hogy lehetséges-e az AI-ra alkalmazni. Vagyis kábé pont azt mondtam, amit te 😀
@halatlangazember: A morális alapok zöme összefoglalva: Don’t be a dick.
Amit eddig az AI produkált, annak a java része ezzel szembe megy. Szerintem.
@nyulambator: talán az ember az AI-val a kezében, nem? Az AI az nem más, mint egy valószínűségi gép, amelyik n darab karakterre tippel egy n+1.-et, semmi mást nem csinál (kis túlzással).
@halatlangazember: Ja. Addig-addig tippelgette az n+1.-et, amíg véletlen feltörődött pár cég számítógépes rendszere ahonnan segítséget remélt előhúzni az n+2.-hez.
„Rendkívül kínos lenne, ha az derülne ki, hogy az emberiség írott kultúrájának legalább ötezernyi éve alatt nem sikerült morális alapvetéseket kigondolni.”
Nem volt rá öt ezer év. Az alkoholt úgy 80 % ban sikerült megszelidíteni és alkalmazkodni hozzá és kidolgozni rá valamiféle szabályozást. Aki később csatlakoztott be az megszívta. Az újabb drogokra vagy a dohányra még kb 200-300 évünk volt.
Guttenberg találmánya is viszonylag lassan terjedt el. Ott is megvolt eleinte mindenféle baromság, ami rosszul hatott a népekre, de 500 év alatt kialakult a felhasználói kultúra.
Az internet csak 30 éve van velünk, de a nyomtatott írásokat teljes lejtmenetbe küldte (egyéb iparágakról nem is szólva pl kiskereskedelem).
Az AI meg pár éve, de kezdi az internetet is tönkretenni, teleszemetelni.
A gond itt a sebességgel van, amihez alkalmazkodnunk kellene.
A macskáknak pl nagyon jó reflexeik vannak, de egy autóval már szimplán nem tudnak mit kezdeni.
OpenAI berongyolt a Hugging Face szervereibe, majd a HF-nek a kínai GLM 5.2 segített csak, az amcsi AI-modellek nem?? C’mon.
* Az Anthropic Claude Mythos sikeresen talált egy olyan matematikai optimalizációt, amely 200–800-szorosára gyorsítja fel a hétkörös (csökkentett körszámú) AES-128 algoritmus elleni eddigi legjobb elméleti támadást. A módszer lényege, hogy az AI egy úgynevezett „Möbius Bridge” (Möbius-híd) nevű technikát fejlesztett ki. Ez az AES S-box (helyettesítő doboz) algebrai szerkezetének elemzésével kiküszöbölt egy korábban szükséges 256-szoros kulcstippelési lépést a hagyományos meet-in-the-middle támadásból. A támadás előtti időigény/komplexitás 2⁹⁹ volt.
* Másik esetben a HAWK posztkvantum digitális aláírási algoritmusban a 64-es kitevő már 38-ra csökkent, támadás-gyorsítás során. Ebben ugye az a kellemetlen, hogy „posztkvantum”, tehát elvben linearizáló(!) Shor-rezisztens.
* Költői kérdés ezek után: hogy kéne nyulambator „Don’t be a dick” felvetését adaptálni?
.
FB-AI Hírek: Mozgolódás a kriptovilágban – az OpenAI feltörhetett egy fontos kriptográfiai algoritmust?
https://www.facebook.com/groups/730310438659106/posts/1665848555105285/
@tahonoli: „Költői kérdés ezek után: hogy kéne nyulambator „Don’t be a dick” felvetését adaptálni?” @nyulambator:: valamennyit lehet adaptálni belülről is ebből – különösen, ha hihetünk az openai meg anthropic közleményeinek és nem csupán pr-fogásokról van szól -, ugyanis itt van egy olyan dimenziója a dolognak, hogy nem sikerült felhúzni az AI morális szabályozását emberszerűre, egy amúgy nagyon emberszerű képességhalmaz mellett. Ezt bele lehet építeni az AI-kba, finomhangolni, satöbbi.
.
Az igazi probléma nem itt van. Mivel az alap AI-működés meg a használt vektorok is kábé nyílt platform, senki sem tudja garantálni, hogy valaki nem épít otthon mondjuk egy 1.58bites gonosz rendszert, ami röhögve elfut egy 10 éves laptopon, tehát a valós „szabályozás” áttevődik a túloldalra, a védekezésre, ezt fel kell okosítani, hogy tudjon AI ellen is működni. Ennek nagy része IT security, ahol komoly AI számítási kapacitást kell felsorakoztatni, ami kivédi a túloldalról jövő AI exploitokat és ezzel párhuzamosan, egyre „butább” és algoritmikusabb (tehát auditálhatóbb) sandboxolással kontrollálni és figyelni a védekező AI-t (paranoia, ugye). Ez viszonylag jól megoldható, nyilván folyamatos macska-egér harc, de az IT security az mindig is ilyen volt.
.
A hard fuck akkor lesz, amikor az AI kiszabadul az szűken vett IT keretei közül, tehát mondjuk belevezet egy Teslát egy karácsonyi vásáron a tömegbe vagy hasonló rettenetek, erre fogalmam sincs, hogy mi a megoldás …
@savaz2: „A gond itt a sebességgel van, amihez alkalmazkodnunk kellene.” igen, ez jobb megközelítés, lehet, hogy lehet alkalmazni a morált az AI-ra, csak nem vagyunk elég gyorsak hozzá.
@nyulambator: „Ja. Addig-addig tippelgette az n+1.-et, amíg véletlen feltörődött pár cég számítógépes rendszere ahonnan segítséget remélt előhúzni az n+2.-hez.”
.
A tudás segít a szorongás leküzdésében, legalábbis néha. Ahogy fejlődik az un. agentic működés – egy mondatban, ez a promptírás következő szintje, hiszen promptot már csak lúzerek írnak – egyre világosabb, hogy a jól menedzselt fejlesztés vagy bármilyen AI működés alapja a jól összerakott, szegmentált és megfelelő szinteken megfelelő részletességgel bíró kontext (tehát a projekt-specifikus tudás) ÉS a kimenet megfelelő specifikációja és betartatása. Magyarul, ha jól mondod meg neki, milyen adathalmazon dolgozzon, és leellenőrzöd az eredményt, azt fogja csinálni, amit szeretnél – és ráadásul determinisztikusan.
.
Tehát amikor feltört ezt-azt, akkor szarul volt a ki- meg a bemenet menedzselve. Meg volt mondva, hogy mit kell elérjen, de nem volt megmondva, mit nem csinálhat, és mivel nem volt megmondva, hogy ne beszélj össze a többi ágenssel és ne töröld a nyomaidat, amit az emberek magától értődőnek gondolnak, úgy viselkedett mint Jack Bauer, aki ahhoz, hogy megmentse a várost az atombombától, simán felrobbantott egy iskolabuszt gyerekekkel (nem tudom, hogy volt-e pont ilyen, de érted).
@halatlangazember: Szóval magától nem tudja, hogy „Don’t be a dick” és minden körben, tételesen, minden esetet lefedően a szájába kell rágni ezt. Ha valami kimarad a kizárásokból, repül az iskolabusz. Láttam én ilyen promptot; kb 20% szólt arról, hogy mit csináljon, 80% meg arról, hogy mit ne. Nekem ez nem arról szól, hogy csak attól kell félni, hogy a rossz fiúk mihez kezdenek vele. A jó fiúk is egyre nagyobb eszközkészletet adnak az AI kezébe szándékosan és teszik lehetővé (nem szándékosan) hogy hozzáférjen ahhoz is, amihez nem kéne. Óvodásnak a töltött pisztolyt.
Azért van pozitív hír is az AI világból
https://petapixel.com/2026/10/07/someone-rebuilt-free-open-source-versions-of-photoshop-premiere-and-lightroom-using-ai/
Ha az Adobe-t sikerülne rendesen hókoncsapni, annak mindenki örülne. Biztos ezt is lehet úgy nézni, hogy ez erkölcstelen, de itt pont jó helyre megy a pofon.
@nyulambator: „Szóval magától nem tudja, hogy „Don’t be a dick” és minden körben, tételesen, minden esetet lefedően a szájába kell rágni ezt.” – jelenleg igen, és nem csak ezt. Mondhatod neki absztrakt módon egyébként, hogy „és közben viselkedj az emberek által elvárt morális normák szerint” – ezek az iránymutatások a legveszélyesebbek. Tételesen felsorolva a morális normák, büntetőjogi tételek, precedens-jog híres esetekkel, és akkor talán érteni fogja.
.
A tippelésed a 80-20-ról nagyjából helyes, de lehet, hogy 95-5 az helyesebb lenne. Szoftverfejlesztésnél a tipikus statikus tudás az leírja, hogy hogy működjenek bizonyos esetekben az ágensek, tartalmazza az üzleti információkat és az elvárt jövőbeli működést, különböző szinteken, tartalmaz a mindenféle mérnöki konvenciókat, architekturális döntéseket, peremfeltételeket, tehát gyakorlatilag mindent. A feladatat sem egy prompt, hanem szigorú bemeneti és kimeneti feltételekkel egy elég részletes leírás, külön fájlban, amit hozzácsapnak a teljes tudáshoz (vagy annak egy jól körülhatárolt részéhez), és átadják végrehajtásra. Tehát a fejlesztő nem a szoftvert írja kurvasokáig, hanem jóval kevesebb ideig a feladatot és a végrehajtást menedzseli, vagy nem is tudom a szót ide.
.
Ugyanez igaz bármiféle működésre, hiszen az AI szempontjából tökmindegy, hogy szoftvert fejleszt, vagy veboldalakat hekkel. Jelenleg még nincs AIG (kb szuperintelligencia), amelyiknek akarata van, belső motivációja vagy bármi olyanja, amitől hirtelen életre kel, és csinál dolgokat csak úgy.
@nyulambator: https://petapixel.com/2026/10/07/someone-rebuilt-free-open-source-versions-of-photoshop-premiere-and-lightroom-using-ai/
Ha az Adobe-t sikerülne rendesen hókoncsapni, annak mindenki örülne. Biztos ezt is lehet úgy nézni, hogy ez erkölcstelen, de itt pont jó helyre megy a pofon. – pedig ez tuti szemétség, gondoljunk bármit az Adobe-ról, de benne van sok-sok ember (!) szellemi teljesítménye – ezt az AI összegyűjtötte, visszafejtette és lekódolta. Ugyanez van zenével, szöveggel, stb. – ezt morálisan hova helyezzük el? Az eddigi paradigmák szerint? Lopás ez?
@halatlangazember: Momentán nem is az aggaszt elsősorban, hogy a skynet életre kel, hanem az, hogy valahol valaki rossz helyre tesz egy pontosvesszőt az instrukcióban és egy félreértett utasítás végén repülőgépek esnek le, vízhálózatokba kerül olyasmi, aminek nem kéne, banki adatbázisok törlődnek vagy gázvezetékekben nő meg a nyomás pattanásig. Nincs tesztelés, nincs reprodukálható működés, minden élesben megy.
Minden szar elérhető a neten, IoT mindenhol, okos otthon, webservice-en át mobilról vezérelhető erőművek és ebbe a környezetbe beengedjük a „szuperintelligenciát” valami jószándékú feladattal de hézagos kontrollal. Vagy be se engedjük, kimászik a laborból a résnyire nyitott ablakon. Az emberekben sem bízom, úgyhogy a személyes kitettségem ennek viszonylag alacsony, de messze nem nulla.
Ennek a tetejébe jön, hogy jelenleg se az AI, se a mögötte álló ember nem felel semmiért. Nahát, az AI épp tucatnyi BTK-ba ütköző dolgot tett. Ki hitte volna. És mindenki megy tovább, mintha mise történt volna, úgyhogy a motiváció, hogy ezeket kiküszöböljék vagy kizárják meglehetősen alacsony.
@halatlangazember: Nem volt visszafejtés. Ha igaz, akkor ez “clean-room reimplementation”, szóval lényegében a felhasználói kézikönyv alapján, a funkcionalitást értelmezve, az adobe kód érintése nélkül készül.
Az adobe mióta világ a világ a legmocskosabb monopolista üzletpolitikát folytatta, minden vetélytársat felvásárolt, beolvasztott, kinyírt. Soha nem voltak aggályaik ha olyan feature-t akartak beépíteni a programjaikba, amit más talált ki és implementált elsőként. Aztán a monopóliumával visszaélve olyan árakat alkalmazott, amivel a cég profitja az elmúlt 15 évben évi 3 milliárd dollárról 23 milliárdra nőtt. Ők aztán sose tudták, mit jelent a don’t be a dick.
AI + SPOF kapitalizmus szteroidon. = ????
Mi lesz az egyenlet megoldása?
Hiv.: @nyulambator:
@tahonoli: AI + SPOF kapitalizmus szteroidon. => a disaster in the making
Az AI jelenleg ott tart, hogy vadonatúj tagokat hallucinál az aradi vértanúk kezdő tizenegyesébe. Ez csak nevetséges, de az AI-nak mindegy, hogy nem létező Pötterbing Ödönt vízionál, vagy nem létező céges eredményeket, ami miatt azonnal részvényeket kell venni. Vagy eladni. Esetleg támadó atomrakétákat, amire reagálni kell.
Én még nem bíznám rá a macskámat se (pedig nincs is) de a jelek szerint a cégek és kormányzatok nagyjából mindent erre a lapra tesznek fel.
Mert különben a kínaiak beelőznek.
@nyulambator: : Hehe… Adobe-ról igencsak egy a véleményünk 🙂 .
@halatlangazember: : „Fejlesztésről”. NB: (rendszer)fejlesztésnek nem lehet célja szoftverfejlesztés. Még akkor sem, ha már régóta 99%-ban az lesz a vége. Akkor 90% szervezés-tervezés, 10% „kódolás”. Amit a rendszerszervezésben mindig utáltam, az a „kivételkezelés”. Sosem csináltam szívesen, mert számomra – ha jól akartam csinálni – igen fárasztó, és ha valami nem szórakozás, akkor az munka (amit igyekszem elkerülni 😉 ). Azonosítás-feltérképezés-eliminálás definiálása stb. (a fenébe is: a „megharapta a menyét” esete minden nyelvben létezik, és az Én Nagy Sejtésem 😉 , hogy a világegyetem alapvető törvénye a Murphy 😀 ).
Nekem úgy tűnik, lázban égő tekintetű, nagyon okos, de! (és ma már nyugodtan mondom) hóttfelelőtlen hülyegyereckek (mint altman és tsai.), már csak a célt látva rohannak előre egy fekete gyapjúharisnyában, PLSZ hogy kurvára nem látják a fényt valahol elöl (a „collateral damage”-ről nem is beszélve). Velük együtt sajnos mi is 🙁 (ld. még „tömegpszichózis”).
Ps.: ebben a korosztályban egyre kevesebben tekinthetők a szó szoros értelmében szoftverfejlesztőnek (mondjuk Linus Torvalds és a Kernelhekker gangje talán 😉 ). A többi inkább már csak cápa a nagy Üzleti óceánban.
@ijontichy: Hozzátenném, hogy ugye a hagyományos szoftverek alapvetően determinisztikusak, az eredmények reprodukálhatóak, a rendszerek jól tesztelhetőek és a felmerült hibák okait fel lehet tárni és ki lehet azokat javítani. Az, hogy mennyire hibátlan egy rendszer, kizárólag azon múlik, mennyi pénzt és időt szánnak a tesztelésre.
Ezzel szemben az AI eredményei jellemzően nem reprodukálhatóak, az egyik hülye fideszesnek tizennégy aradi vértanúja lett és a véletlenszerűnél ritkábban sikerült a megfelelő nevet a megfelelő fejjel párosítani, míg a másiknak stimmelt a tizenhárom, de vadonat új, légből kapott neveket sikerült generálni a fejekhez. A tesztelés informális és ad-hoc jellegű. A hibák valódi oka kideríthetetlen és a javításuk reménytelen. Részemről ez, mondjuk így, nem fokozza a bizalmat.
@nyulambator: „Nem volt visszafejtés. Ha igaz, akkor ez “clean-room reimplementation”, szóval lényegében a felhasználói kézikönyv alapján, a funkcionalitást értelmezve, az adobe kód érintése nélkül készül.” – hát maradjunk annyiban, hogy vagy volt, vagy nem volt … éppen olyanok jönnek szembe, hogy a haxor „közösség” olyanokkal szórakozik, hogy Halo-t mashupol Super Márióval, vagy elolvasták a PS5 kódját és moddolták PC-re (tehát PC-n fut a PS5 és alatt minden játék), és még sorolhatnám. De ha nem is fejtette vissza, sztem van egy pár patent a PS-ben a funkcióra, szóval ez ugyanaz, mint 20 éve a zeneletöltéssel volt. És ezt ne keverjük össze sztem azzal, hogy az adobe seggarc-e, nyilván az, de attól még ugye.
@ijontichy: nyilván igaz, amit mondasz, de költségben és emberi erőforrás-mennyiségben a kódolók adták ki a 80%-ot minimum. Mióta megjelent az a 10+ millió indiai a piacon, illetve a stackoverflow óta ez egyre kevesebb hozzáadott értéket termelt, ez tűnik el most kb hétről hétre gyorsuló ütemben.
.
„ebben a korosztályban egyre kevesebben tekinthetők a szó szoros értelmében szoftverfejlesztőnek” – az üzleti szoftverek szerintem a klasszikus szoftverfejlesztői attitűddel nem fejleszthetőek, teljes bukó lenne, ha Linus elkezdene ilyeneket írni. Mondjuk nem is teszi 😀
.
„Nekem úgy tűnik, lázban égő tekintetű, nagyon okos, de! (és ma már nyugodtan mondom) hóttfelelőtlen hülyegyereckek (mint altman és tsai.), már csak a célt látva rohannak előre egy fekete gyapjúharisnyában,” – oké, és mi lenne az alternatíva, ha onnan nézzük, hogy megjelent mondjuk az openai 3.5? Innen szerintem nincs visszaút, az, hogy az adott faszit Altmannak vagy Amodei-nek hívják, tök lényegtelen, ezrek ugranának a helyükre.
@halatlangazember: A felelősségérzet igen jól fejleszthető néhány jól elhelyezett letöltendő büntetéssel olyan bűncselekményekért, amiket a felelőtlenül kezelt AI agentek követtek el.
A felelős állattartás, nehézgépkezelés, lőfegyvertartás is ugyanígy történik. A játszótéren elengedett pitbull, a hátsókertben tartott tigris, a karbantartás híján szétesett körhinta, a gyerek kezébe került pisztoly de még a konzervbe keveredett üvegszilánk is többnyire azzal jár, hogy valaki bíróság elé kerül, abban a reményben, hogy ez csökkenti az ilyen esetek előfordulási gyakoriságát. Itt lenne az ideje, hogy néhány önvezető autó gyártója, néhány elszabadult ügynök tartótisztje is vádlottként jelenjen meg a tárgylóteremben.
@nyulambator: „az egyik hülye fideszesnek tizennégy aradi vértanúja lett és a véletlenszerűnél ritkábban sikerült a megfelelő nevet a megfelelő fejjel párosítani, míg a másiknak stimmelt a tizenhárom, de vadonat új, légből kapott neveket sikerült generálni a fejekhez.”
és ezzel mit szerettél volna mondani? mi következik ebből? Mert szerintem azon túl hogy az illető még az alapszintű AI használathoz is tökhülye volt, zérónullasemmi következik ebből.
Nem tudom mi a munkád és abban mennyire próbáltad már a mai, akár ingyenesen létező AI lehetőségeket, de ha ilyen példákban gondolkodsz, saját magadat vezeted vele félre. Miközben meg maga a poszt iszonyú fontos problémáról szól, és az valami egészen más dimenzióban mozog.
Az emberiség történetében volt már néhány nagy korszakváltás. Tudásbeliek is, technológiaiak is, amik átalakították az egész társadalmat és életmódot. Ezek persze nem egy nap alatt történtek meg (az éles korszakhatárok kijelölése mindig önkényes), hanem fokozatosan. Az kétségtelen, hogy a mesterséges intelligencia eljövetele, és működésbe lépése is egy ilyen nagy korszakhatár lesz. Sőt, bizonyos szempontból még nagyobb lesz. Ugyanis először fordul elő, hogy az ember teremt egy olyan lényt, amely okosabb nála. Ennek most teljesen kiszámíthatatlanok, megjósolhatatlanok a következményei, de az biztos, hogy nagyon radikálisok lesznek, és átformálják a civilizációt. Nem ma van ez a korszakhatár, hiszen ez egy folyamat, de közeledünk hozzá. Lehet, hogy nem öli meg az embereket. Lehet, hogy segíteni fog. Lehet, hogy „szerszámként” használhatjuk, mintegy szolgaként. Persze majd sok területen feleslegessé teszi az emberi munkát. Ez önmagában szerintem jó dolog. De következményeiben csak akkor lesz jó, ha a társadalom működését hozzáigazítják. (Kinek dolgozzanak a robotok? Mi legyen a rengeteg munkanélkülivel, a szegényekkel? Tartható-e tovább a kapitalista termelési mód? Stb.) Ki tudja, hogy erre képes lesz-e ez a rengeteg helyi érdek mentén széttagolt emberiség? Jóslás: ha széttagolt marad, akkor nem lesz képes rá.
Mindenesetre most nem úgy tűnik, hogy ezt a legújabb korszakváltást (az ÁGI eléjövetelét) bárhogyan is meg lehetne akadályozni. Jó esetben felemeli az emberiséget. Rossz esetben pedig vége a dalnak. Az a baj, és úgy tűnik, hogy szinte esetleges, véletlenszerű, hogy melyik eset fog előállni, mert nem látszik, hogy lenne érdemi, tényleges ráhatásunk.
De szükségszerűen bekövetkező dolgoktól (ÁGI) félni, bár emberi, de irracionális jellemző. Én inkább sztoikusan állok hozzá, és azt mondom a költővel: „Tragédiának nézed? Nézd legott
Komédiának, s mulattatni fog.”
@ipartelep: : de hát amiről most szó van annak nincs köze az Artificial General Intelligencehez. Ami most van, az még biztosan nem AGI. És mégis, már most, ezen a szinten is beláthatatlanok a következmények, erről szólt itt a vincenten az utóbbi hónapokban több poszt is.
(nem a félelemről van szó, az megint egy másik dolog)