Az Anthropic kutatóinak friss tanulmánya szerint felfedeztek egy önmagától kialakult belső struktúrát a Claude mesterségesintelligencia-modell neurális hálózatában, amelyet J-térnek neveztek el. Ez a kis méretű zóna lehetővé teszi a modell számára, hogy érveljen, következtetéseket vonjon le és fogalmakat kezeljen – akár anélkül, hogy azokat kimondaná. A felfedezésnek komoly biztonsági vonatkozásai is vannak: a J-lencse nevű eszközzel a kutatók még a válaszadás előtt ki tudták mutatni a modell rejtett stratégiai gondolkodását, például egy fiktív zsarolási forgatókönyvben. A VentureBeat beszámolója szerint a kutatók hangsúlyozzák, hogy nem öntudatra ébredésről van szó, ugyanakkor az eredmények arra utalnak, hogy a tudatos hozzáféréshez társított funkcionális architektúra megfelelő számítási nyomás alatt magától is kialakulhat a tanuló rendszerekben.

Tovább az erdeti cikkre:: Portfolio