Egyre több amerikai szenátor és képviselő sürget új szabályozásokat a mesterséges intelligenciára vonatkozóan, miután az Anthropic több kutatója is felhívta a figyelmet a benne rejlő veszélyekre. A Claude nevű mesterségesintelligencia-asszisztenst fejlesztő cég egyik alkalmazottja, Jacob Coxon egy közösségi oldalon írt arról, hogy ez a technológia a közeljövőben kiirthatja az emberiséget.
Ma felmondtam az Anthropicnél. Az elmúlt három évet az OpenAI-nál és az Anthropicnél töltöttem, […] egyik cég sem cselekszik felelősségteljesen. Az önfejlesztő szuperintelligencia megalkotásáért versenyeznek, és közben az életünkkel játszanak
– fogalmazott a szakértő szeptember 9-én, az X-en közzétett bejegyzésében.
Aggódnak a szakértők
Evan Hubinger, az Anthropic egyik vezető kutatója megerősítette ezeket az állításokat, egy válaszposztban azt írta:
Jacobnak igaza van, tényleg úgy gondoljuk, hogy a mesterséges intelligencia végezhet minden emberrel. Személy szerint 10 százaléknál nagyobb esélyt látok rá, hogy ez már a következő évtizedben megtörténhet.
Az iparág gyors fejlődésével kapcsolatos aggodalmaival két MI-biztonsági szakember is nyilvánosság elé lépett. Joe Benton, az Anthropic korábbi vezető kutatója egy szeptember 10-én megjelent NBC-interjúban azt mondta: attól tart, hogy az MI fejlődése végül „túl gyors lesz ahhoz, hogy időben összeszedjük magunkat”, hacsak nem kezdünk el már most foglalkozni a problémával. Josh Engels a Google DeepMind korábbi munkatársa pedig úgy fogalmazott: „Nincsenek felnőttek a szobában. Az emberek mindent megtesznek, ami tőlük telik, de nincs senki, aki megmentene minket”.
A szakértők vészjósló figyelmeztetései mellett olyan események is felhívják a figyelmet a mesterséges intelligencia potenciális veszélyeire, mint az OpenAI-nál nemrég történt kiberbiztonsági incidens. Idén nyáron a cég modelljeinek sikerült kiszabadulniuk tesztkörnyezetükből, majd feltörtek egy népszerű weboldalt, hozzáférést szerezve néhány belső vállalati rendszeréhez.
Nemrég az Anthropic is beszámolt négy hasonló esetről, amelyek közül a legutóbbi 2026 januárjában történt, de csak júliusban észlelték. Az incidenst a Claude Opus 4.6 nevű modelljük korai verziója okozta, amelynek tesztelés közben sikerült hozzáférnie az internethez és feltörnie több külső rendszert.
A cég a napokban tette közzé friss veszélyforrás-felderítési jelentését is, amelyben arról írtak, hogy az elmúlt nyolc hónapban bűnözők, állami támogatású csoportok, kémszoftvereket értékesítő vállalatok, tudósok és propagandisták is megpróbálták felhasználni mesterségesintelligencia-modelljeiket rakéták, bombák és biofegyverek készítéséhez, kibertámadások lefolytatásához, valamint másként gondolkodók megfigyeléséhez.
Donald Trump nem fél
Az eseményekre reagálva több amerikai szenátor és képviselő – demokraták és republikánusok egyaránt – felszólalt a mesterséges intelligencia szigorúbb regulációja érdekében. Ted Cruz texasi republikánus szenátor például arról beszélt, hogy olyan törvényeket kellene alkotni, amelyekkel szabályozni lehet a mesterséges intelligenciában rejlő katasztrofális kockázatokat – írja a Reuters.
A mesterséges intelligencia szabályozásának kérdésében bizonyos fokú összefogás is kialakult a két amerikai párt között. John Thune republikánus és Amy Klobuchar demokrata szenátor például közös törvényjavaslaton dolgozik, amely a tervek szerint azt is kimondaná, hogy a mesterséges intelligenciát fejlesztő vállalatoknak kormányzati szakértőkkel kellene együttműködniük. Ezzel biztosítanák, hogy az állam ellenőrizhesse a modellek fejlesztését, és biztosíthassa, hogy biztonságosak.
Ám mindezek ellenére Donald Trump elnök szeptember 10-én a sajtónak azt nyilatkozta: nem tart attól, hogy a mesterséges intelligencia az emberiség kihalásához vezethetne, attól viszont igen, hogy az Egyesült Államok rossz helyzetbe kerülhet, ha nem győzi le Kínát ebben a versenyben.
Az Egyesült Államok ebben a hónapban arra kérte a G20 országait, hogy az MI szabályozásában tartózkodjanak a túlzott beavatkozástól.
A mesterséges intelligenciáról és annak potenciális veszélyeiről korábbi cikkeinkben szakértőkkel beszélgettünk:
- Szegedy Balázs: Lángba boríthatja az utcákat a most zajló technológiai forradalom
- Nagy tévedés, hogy olcsóbb lesz gépekkel pótolni az embereket
- Nem kerül milliárdokba az MI-fegyver, ma már aprópénzből lehet lejáratóvideókat generálni
The post Az emberiség pusztulását várják a szakértők az MI-től, de Trump nem fél first appeared on 24.hu.
Tovább az erdeti cikkre:: 24.hu
