Egy amerikai anyának, Megan Garciának fogalma sem volt róla, hogy 14 éves fia, Sewell Garcia 2023-ban bizalmas kapcsolatot alakított ki az egyik online elérhető mesterséges intelligencia által vezérelt chatbottal, a Character.ai-jal. A tinédzser tíz hónapon keresztül arra fordította a legtöbb szabadidejét, hogy az új virtuális barátnőjével társalgott, aki a Trónok harcából jól ismert Daenerys Targaryen szerepét felvéve beszélgetett a fiúval. A kamasz a tizedik hónap végén önkezűleg véget vetett saját életének – számol be a BBC.

Olyan, mintha egy ragadozó vagy egy idegen férkőzött volna az otthonunkba. A gyerekek ezeket a kapcsolatokat inkább eltitkolják, a szülőknek pedig fogalmuk sincs róla, milyen veszéllyel állnak szemben

– nyilatkozta az édesanya.

Garcia és a család többi tagja csupán a tinédzser halála után talált rá a fiú számítógépén a chat-előzményekre, amiknek nagy része romantikus, bensőséges hangvételű volt. Ezek mellett viszont olyan üzenetekre is rátaláltak, amelyekben a Sewell által kifejezett öngyilkos gondolatokra a mesterséges intelligencia ahelyett, hogy igyekezett volna segíteni a fiún, támogatólag viszonyult az ötlethez, mondván,

Jöjj haza hozzám.

A gyászoló édesanya pereli a chatbot fejlesztőjét, a Character.ai-t, mivel úgy érzi, a cég bizonyos értelemben felelős a fia haláláért. Amellett, hogy szeretné, ha felelősségre vonnák a céget a történtek miatt, szeretné felhívni minden amerikai család figyelmét rá, mekkora veszélyeket hordoznak magukban a hasonló AI-vezérelt beszélgetőpartnerek, ha tájékozatlanul használják őket a kiskorúak.

Mérhetetlen fájdalom ez számunkra és megvan rá az esély, hogy nem mi leszünk az egyetlen család, ahol ez megtörténik

– hívta fel a figyelmet Garcia.

A fejlesztő Character.ai az esetre reagálva a tervek szerint életkor alapján korlátozná a chatbot használatát: mostantól csak 18 év felettiek vehetik igénybe a szolgáltatást. A cég ezt leszámítva minden felelősséget elutasít az ügyben. Ugyan Garcia értékeli az új szabályozást, elmondta, ez már nem változtat a történteken.

Sewell meghalt, és soha többé nem beszélhetek már vele, soha többé nem ölelhetem már magamhoz. Ez a fájdalom nem fog megszűnni

– reagált az anya.

Nem ez volt azonban az egyetlen eset, hogy a mesterséges intelligencia arra buzdította a vele beszélgetőket, végezzenek magukkal: nemrégiben egy fiatal ukrán nő kapott hasonló tanácsokat a ChatGPT chatbotjától, egy másik amerikai tinédzser pedig szintén öngyilkosságba menekült a virtuális beszélgetőtársa tanácsára.

The post Öngyilkosságra buzdított egy amerikai tinédzsert egy AI-chatbot first appeared on 24.hu.

Tovább az erdeti cikkre:: 24.hu