Az OpenAI bejelentette, hogy egy rövid időre elvesztették az irányítást az egyik legfejlettebb mesterséges intelligencia modelljük fölött egy biztonsági teszt során, ez a kevéske idő pedig elég volt arra, hogy a rendszerük feltörjön egy világhírű startupot – írja a BBC.
A ChatGPT készítője azt állította, hogy az MI-ügynököt ellenőrzött környezetben tesztelték, azonban miután rábukkant egy sebezhetőségre, lényegében elszabadult, és megtámadta a rendszert.
Az ügynök a Hugging Face-t, a világ egyik legnagyobb mesterséges intelligencia modellek megosztására szolgáló központját vette célba, hozzáférést szerezve néhány belső vállalati rendszerhez. Az OpenAI azt nyilatkozta, hogy az eset teljesen példátlan, és a Hugging Face-szel közösen vizsgálatot folytat.
A megtámadott cég vezetője, Clement Delangue egy X-en közzétett bejegyzésében azt írta: „elképesztő, hogy mindez automatikusan történt”. Hozzátette: a nyomozás folyamatban van, és további információkat fognak megosztani a világ talán első ilyen jellegű incidenséről.
Mit mondanak a szakértők?
A szakértők úgy kommentálták az esetet, hogy az OpenAI minden bizonnyal nem készített elég biztonságos tesztkörnyezetet, és így az ügynök kibertámadást indíthatott a sandbox ellen, mely során egy olyan sebezhetőséget talált, amely lehetővé tette számára a menekülést. Ez azonban nem példátlan: korábban is voltak hasonlóra.
Ugyanakkor sokan azt is felvetették, hogy ez egy sima marketingfogás is lehet: az OpenAI ugyanis épp tőzsdére kíván vonulni, és intenzív nyomás alá kerül a rivális Anthropic részéről, amelynek Mythos modellje az amerikai kormányzati biztonsági rendszereket játszotta ki könnyedén.
The post Elszabadult az OpenAI mesterséges intelligenciája: olyat tett, amin a kutatók is meglepődtek first appeared on 24.hu.
Tovább az erdeti cikkre:: 24.hu
