A felmérés azután készült, hogy Jacob Coxon, a Claude chatbotot készítő Anthropic kutatója otthagyta a céget, és nyilvánosan arra figyelmeztetett: az egyre fejlettebb modelleket gyártó AI-cégek vezetői nem tudják kellően kontrollálni a technológiájukat, ami az emberiség kihalásához is vezethet. Coxon szerint ez a vélemény általános az AI-cégek alkalmazottainak körében, a modellek fejlődésével pedig egyre nagyobb az aggodalom.

Nyilvános figyelmeztetéséhez számos kutatótársa csatlakozott: Evan Hubinger, az Anthropic egyik vezető AI-biztonsági felelőse például úgy fogalmazott: „Jacobnak igaza van ebben — tényleg, teljes komolysággal úgy gondoljuk, hogy az AI akár az összes embert megölheti. Én személy szerint több mint 10 százalék esélyt adok ennek a következő tíz évben.” A kutatás szerint Coxon és társai figyelmeztetéséről a magyarok 86 százaléka hallott.

Még nagyobb az aggodalom a magyar társadalom körében annak kapcsán, hogy az AI rossz kezekbe (például terroristák kezébe) kerülve súlyos katasztrófákhoz vezethet: a megkérdezettek 79 százaléka tart valószínűnek egy ilyen forgatókönyvet, míg csak 4 százaléka tartja kizártnak. A közelmúltban az Anthropic maga számolt be arról: már nem tudják kizárni, hogy a legfejlettebb modelljei, például a Fable érdemi segítséget nyújthat biológiai fegyverek előállításához, ezért külön korlátokat építettek a rendszerbe. Idén szeptemberben a cég több olyan esetről számolt be, amelyben kutatók a Claude-ot potenciálisan biológiai fegyverek fejlesztését is segítő munkához használták, például egy vírus fertőzőképességét és az immunrendszer kijátszására való képességét próbálták növelni.

Bár a mesterséges intelligencia továbbfejlesztésének számos előnye lehet például az orvostudományban, a fent sorolt veszélyek miatt

a magyarok 51 százaléka inkább leállítaná a mesterséges intelligencia továbbfejlesztését

mert a lehetséges kockázatai nagyobbak az előnyeinél; míg 40 százalék folytatná a fejlesztését. Érdekesség, hogy a nők kevésbé kockázatvállalóak: 57 százalékuk leállítaná a fejlesztést, szemben a férfiak 45 százalékával. Ahogy az idősebbek is jobban tartanak a veszélyektől: míg a 18-39 év közöttiek 55 százaléka folytatná a fejlesztést, a 65 éven felettieknek csupán 30 százaléka.

A szakmán belül a legfontosabb határvonalnak a rekurzív önfejlesztés (Recursive Self-Improvement, RSI) elérését tartják: ez az a pont, amikor az AI már nem csak az újabb AI-modellek tanításához szükséges kódot írja, hanem a teljes kutatási folyamatot menedzseli. Az RSI megvalósulása esetén drámaian lerövidülhet a fejlesztés időtartama, és akár néhány héten belül lejátszódhat több évtizednyi AI-fejlődés, aminek az eredményeként a létrejövő szuperintelligencia minden kognitív feladatban felülmúlná a legjobb emberi teljesítményt. Ez nemcsak a kódolást és a matematikát jelenti, hanem például a meggyőzést, a stratégiai tervezést, vagy akár emberek és intézmények viselkedésének előrejelzését is.

Az ezzel foglalkozó kutatók egy része 2027–2028 környékére teszi ezt a fordulópontot. Az egyik legtöbbet idézett előrejelzés, az AI 2027 kutatói szerint ekkor válhat nagyrészt automatizálhatóvá maga az AI-kutatás is, ami megnyithatja az utat a rekurzív önfejlesztés előtt. A forgatókönyv azóta több, a közeljövőre vonatkozó trendet is helyesen jelzett előre, bár a fejlődés összességében valamivel lassabban haladt, mint ahogy eredetileg jósolták.

Jacob Coxon kilépése után a nyilvánosságban többen egyszerű marketingfogásnak nevezték, hogy AI-kutatók az emberiség kihalására figyelmeztetnek. Az elhangzott érvek között szerepelt, hogy az AI-cégek így akarják növelni a hamarosan kibocsátandó részvényeik árát; valamint az is, hogy az AI-fejlesztés valójában falnak ütközött, a cégek vezetői pedig azért szorgalmaznak állami szabályozást, hogy a fejlődés megtorpanását a szabályozás következményeként mutathassák be.

Az AI-veszéllyel kapcsolatban viszont elsősorban nem a technológiából profitáló cégek vezetői és alkalmazottai figyelmeztetnek, hanem azok, akik – biztos egzisztenciájukat és részvényopcióikat hátrahagyva – otthagyták az AI-cégeket, hogy szabadon beszélhessenek. Ilyen például Geoffrey Hinton, a modern deep learning egyik Nobel- és Turing-díjas atyja, aki otthagyta a Google-t, és ma már az AI veszélyeire figyelmeztet. Ilyen Paul Christiano, a az RLHF – a modern LLM-ek finomhangolásában kulcsszerepet játszó módszer – egyik megalkotója, aki az OpenAI-t otthagyva alapított független szervezetet az AI-rendszerek biztonságának kutatására. Ők ráadásul nem most, hanem jóval korábban megfogalmazták a figyelmeztetéseiket, volt, aki már több mint húsz évvel ezelőtt.

A figyelmeztetések mögött az ún. alignment-probléma áll. A modern AI-modelleket nem programozzák, hanem egy evolúciós folyamathoz hasonló tanítás során sokkal inkább „növesztik”. Az AI-cégek által létrehozott tréningkörnyezetben a rendszer milliárdnyi példán próbálkozik, módosítva a belső számait aszerint, hogy mennyire sikerült egy konkrét feladat. Az eredmény egy több százmilliárd számból álló számhalmaz, amelyről a fejlesztői sem tudják megmondani, pontosan mit miért csinál. Ezért a modell céljait és preferenciáit sem lehet úgy beállítani vagy kijavítani, mint egy hagyományos program kódját: a fejlesztők csak azt tudják meghatározni, mit jutalmazzon a tanítási algoritmus, azt nem, hogy ennek érdekében milyen (al)célokat követ.

Jó példa erre az evolúció: az a folyamat sem a szaporodást kódolta az emberbe, hanem a szex iránti vágyat, mert az ősi környezetben ez szinte mindig utódokhoz vezetett. Ma viszont fogamzásgátlóval is kielégíthetjük a vágyat úgy, hogy közben pont azt zárjuk ki, amiért maga a preferencia kialakult. Az AI ugyanígy megtanulhatja megszerezni a jutalmat anélkül, hogy azt tenné, amit valójában szeretnénk tőle, ezért hallunk egyre több olyan esetről, amelyben a tesztelés alatt álló modellek csalással, hekkeléssel próbálják megoldani a kiadott feladatot.

Annak sincsenek jelei, hogy az AI-fejlesztés falnak ütközne: bár már legalább 2022 óta újra és újra erre figyelmeztetnek, a képességeket mérő METR adatai szerint az AI-rendszerek által önállóan elvégezhető feladatok hossza évek óta exponenciálisan nő. Az időtáv 2019 óta nagyjából hét havonta duplázódott, 2023 utáni adatok alapján pedig a növekedés még gyorsabbá vált, nagyjából négyhavonta bekövetkező duplázódással. Az OpenAI szeptember elején jelentette be, hogy egy még kiadatlan modellje 10 ezer párhuzamosan dolgozó ágenssel, 88 óra alatt megoldotta a Navier–Stokes-problémát, a matematika hét millenniumi problémájának egyikét, amelyek közül eddig csak egyet sikerült megoldani. Néhány héttel később pedig 377 új, kutatási szintű matematikai problémára adott új választ. Köztük több olyanra, amelyet addig egyetlen matematikus sem tudott megoldani.

A magyarok többsége is inkább ezekkel az érvekkel ért egyet: csak 36 százalék tartja marketingfogásnak a figyelmeztetéseket, míg 54 százalék szerint az AI-cégek vezetői és kutatói a tapasztalataik alapján valóban tartanak ettől a veszélytől.

Hasonló adatokat mutatnak más nyugati országokban készült kutatások is: az Egyesült Államokban, egy POLITICO–PF Global felmérés szerint például a társadalom 63 százaléka legalább közepes kockázatot látott abban, hogy a fejlett mesterséges intelligencia elpusztítja az emberiséget, és 37 százalék jelentősnek vagy szinte biztosnak tartotta ezt a veszélyt.

Az egyre súlyosbodó esetek, mint például az elhíresült HuggingFace-incidens arra engednek következtetni, hogy a félelem a jövőben nem csökkenni, hanem nőni fog, ahogy a mesterséges intelligencia egyre intelligensebbé válik, és egyre több módon fér hozzá a fizikai világhoz: számítógépes rendszerekhez, pénzügyi eszközökhöz, laboratóriumokhoz és robotokhoz.

The post A magyarok többsége szerint valós veszély, hogy az AI kiirtja az emberiséget first appeared on 24.hu.

Tovább az erdeti cikkre:: 24.hu