Szülők indítottak pert az OpenAI ellen, mivel a kereset szerint a ChatGPT-nek komoly szerepe volt 16 éves fiuk öngyilkosságában. A TechCrunch szerint ez lehet az első ismert, halált okozó jogellenes cselekmény miatti eljárás, amit a cég ellen indítottak.

Mielőtt a 16 éves Adam Raine öngyilkos lett, hónapokig beszélgetett arról a ChatGPT-vel, hogyan vehetné el saját életét. A legtöbb chatbot ilyen esetekre úgy van programozva, hogy automatikusan aktiválja a biztonsági funkciókat.

A kutatások azonban kimutatták, hogy ezek a biztosítékok korántsem tévedhetetlenek.

A fiatal fiú esetében egészen pontosan az történt, hogy miközben a ChatGPT-4o fizetős verzióját használta, a mesterséges intelligencia többször arra biztatta, hogy kérjen szakmai segítséget vagy hívjon fel egy segélyvonalat. Raine azonban megkerülte ezeket a korlátokat azzal, hogy azt mondta a ChatGPT-nek: nem a saját öngyilkosságát tervezi, hanem egy kitalált történethez kér segítséget, amin épp dolgozik.

Tudatában van ennek az OpenAI

Az OpenAI a blogján foglalkozott ezekkel a hiányosságaival. „Ahogy a világ alkalmazkodik ehhez az új technológiához, felelősséget érzünk, hogy segítsünk azokon, akiknek a leginkább szükségük van rá. Folyamatosan fejlesztjük modelljeink reagálási módját az érzékeny interakciókban” – írták, majd jelezték: a biztonsági intézkedéseik azonban sokkal megbízhatóbban működnek a rövid eszmecserék során.

Megtanultuk, hogy ezek a biztonsági intézkedések néha kevésbé megbízhatóak lehetnek hosszú interakciók során: ahogy a kölcsönös oda-vissza kommunikáció növekszik, a modell biztonsági képzésének egyes részei leépülhetnek

– olvasható a bejegyzésben.

The post Történelmi pert kapott a nyakába az OpenAI egy tinédzser öngyilkossága miatt first appeared on 24.hu.

Tovább az erdeti cikkre:: 24.hu