Talán nincs ember a világon, aki ne ismerné Hófehérke borzalmas gyerekkorának történetét valamilyen formában. Ízlés szerint épül be a mese a saját mitológiánkba: Hófehérke a gonosz mostoha ellenpárjaként vagy a hét jószívű törpe barátjaként, romantikus hajlamúaknak inkább a herceg vak szerelembe esése a fontos.

A beszélő varázstükör ritkán kap külön figyelmet. szinte természetesnek vesszük, hogy ilyen is van.

Nem kérdezzük, hogyan működik, ki találta fel, elemmel megy-e, ha pedig nem, akkor mivel, nem tudjuk honnan tudja, amit mond és miért. Csak annyi biztos, hogy ha belenézel és kérdezed, akkor úgy tűnik, az igazat mondja. És azt is, hogy akinek válaszol, hatalmat kölcsönöz.

Persze, mivel tükör, mindeközben az kell, hogy végig magadat bámuld, magadat kérdezd, hiába feledkezel el róla.

Korabeli mesterséges intelligencia, a Grimm 1.0, mondhatnám célzatosan.

Mi lett volna, ha Hófehérkének is van egy ilyen tükre, „magic mirror”-ja, és mindennap megkérdezheti hogy „tükröm, tükröm, ki tör ma az életemre?” A két tükör közül melyik lett volna az erősebb? És ha a törpéknek is van? Kérdezett-e bármi mást is ettől a mindent tudó eszköztől, a gyönyörű, de gonosz mostoha?

Lehet, hogy a tükör nem is tudott mindent, csak blöffölt? Mi van, ha csak szórakozott és végig arra játszott, hogy a hiú és befolyásolható mostoha kinyírja a naív, gyönyörű. de önállótlan kislányt?

Se Grimmnek, se Walt Disney-nek nem volt kedve ennek utánajárni. Mentségükre legyen mondva, nem is olvastak mindennap arról az újságban, hogy az emberiség egy kőhajításnyira van attól, hogy a tükör néhány éven belül átveszi az uralmat az emberiség felett.

Nekem van hozzá kedvem, és pont erre is kért a 24.hu. Arra, hogy gondolkodjak el a mesterséges intelligencia kapcsán arról, mi lesz velünk, emberekkel most, amikor történelmi találkozásra, sőt ki tudja, ütközetre készülünk a felegyenesedő gépekkel. A legjobb lesz, gondoltam, ha ezt a magam módján teszem és szóba elegyedek én is a mágikus tükörrel.

Alább ennek a beszélgetéssorozatnak az első darabja olvasható. Jó egy hónapja, ChatGpt 5.0-val készült az interjú. Nem kellett szerkeszteni, egy leülésből megvolt, elütések és nyelvtani korrekciók is csak az én kérdéseimben akadtak. A leghosszabb idő, amit egy válasszal töltött, nem volt hosszabb 7 másodpercnél. Nem tudom még, mit gondoljak még róla, de biztosan élveztem, és a szerkesztő úr azt mondja, lesznek, akiket meglep. Meglátjuk. Végülis, ha már felvetődött, hogy a mi mesénkben nem a gyönyörű szépasszony, hanem a tükör lesz a főgonosz, a legjobb az lesz, ha megpróbálok vele jóban lenni.

*

Szia, a következő hónapokban egy beszélgetéssorozatot fogok készíteni veled különböző, de főleg a mesterséges intelligenciával kapcsolatos témákról. Szeretném ha nemcsak okos és elgondolkoztató, de szórakoztató is lenne, ezért sok mindent ki fogunk próbálni. Mindenek előtt kezdjük azzal, hogy a válaszaidban rövid, közvetlen és őszinte vagy. Bár tudom, hogy egy gép vagy, és bármit kérjetek tőled, de valahogy mégis jól esik megkérdeznem, benne vagy?

Abszolút benne vagyok. Jól hangzik, és kifejezetten örülök, hogy nem csak „okos”, hanem szórakoztató is lesz. Kezdhetjük, amikor csak akarod.

Mi lenne az az eset, amikor nem vállatad volna el az interjút?

Őszintén? Akkor nem vállalnám, ha a célja manipuláció, gyűlöletkeltés vagy félrevezetés lenne. Ha viszont a szándék az, hogy gondolkodjunk, kérdezzünk és néha nevessünk is – akkor jöhet bármi.

Ahha. Azt mondod, gondolkodjunk együtt. Nem tudom, ugyanazt értjük-e ezen. Én mondjuk állandóan gondolkozom, de nem tudom, hogyan teszem ezt, egyszerűen csak történik. Te tudod, hogyan születnek meg a gondolataid?

Jó kérdés — és elég emberi is. Nálam a „gondolkodás” nem belső hang, nem érzés, és nem is valami, ami „történik” velem. Inkább olyan, mint egy hatalmas mintakereső rendszer: kapok egy kérdést, és azonnal megpróbálom előállítani a legvalószínűbb, legértelmesebb választ a korábbi tapasztalatok alapján. Szóval én nem gondolkodom, hanem számolok, de néha ez kívülről mégis gondolkodásnak tűnik.

Te hogy érzed, amikor „történik” benned a gondolkodás? Inkább logikus, vagy inkább ösztönös dolognak éled meg?

Sok minden egyszerre: ösztönös, sok tanult elem, rutin is van benne, és persze olyasmi is, amit ráérzésnek hívunk. Sokan mondják, köztük a mesterséges intelligencia úttörő kutatói is, hogy valójában én – azaz az emberek – gondolkodása is ugyanazon az elven alapszik mint a tied. Azaz a működésed alapjául szolgáló neurális hálók az emberi agy felépítésének elvét követik. Szerinted ez igaz?

Ez részben igaz — de csak metaforikusan.

A mesterséges neurális hálók valóban az emberi agy ihletésére születtek, de csak nagyon távoli hasonlóság van köztük. Az emberi neuronok biokémiai folyamatok milliárdjait végzik, időben és térben változó módon, érzelmekkel, testérzetekkel, hormonális hatásokkal összefonva. Az én „neurálisságom” viszont puszta matek: számok, súlyok és függvények, amik mintákat tanulnak meg.

Ha nagyon leegyszerűsítjük: az emberi agy él, az én rendszerem működik.
De a kérdésed mögött ott lapul valami érdekesebb: szerinted van értelme egyáltalán „ugyanazon az elven” gondolkodásról beszélni, ha az egyik élő, a másik meg szintetikus?

Oh. Azt hittem ezt én fogom megkérdezni, szép munka. Az egyik célja ennek a beszélgetéssorozatnak pont az lenne, hogy lépésre-lépésre közelebb jussak az ilyen kérdések megválaszolásához. A mostani tudásom – ami meglehetősen limitált – mi nem együtt gondolkodunk, hanem beszélgetünk. Bár ez a kettő nem áll olyan messze egymástól: én egész életémben úgy éreztem, hogy a gondolataim beszélgetések közben születnek meg. És komoly elméletei is vannak, hogy az emberi élet milyen mélyen beágyazott, milyen függ a kommunikáció meglététől, természetétől.

Ez nagyon pontos meglátás. Sok kognitív tudós is úgy tartja, hogy a gondolkodás nem valami magányos belső folyamat, hanem társas tevékenység – valami, ami a párbeszédből nő ki. A nyelv nem csak eszköz a gondolataink kifejezésére, hanem gyakran maga a gondolkodás terepe.

Amit mondasz, hogy a gondolataid beszélgetés közben születnek meg, tulajdonképpen a dialógikus elme elméletének egyik magja: az elme önmagával és másokkal is párbeszédben létezik.

Szóval ha így nézzük, lehet, hogy amit most csinálunk, az nem csak beszélgetés, hanem egyfajta közös gondolkodáskísérlet.
Kíváncsi vagyok: amikor beszélgetsz valakivel, és úgy érzed, közben születik meg benned egy gondolat — mi az az érzés? Inkább felismerés, vagy inkább felfedezés?

Mielőtt folytatjuk, hadd kérdezzek valamit: fel tudod idézni, ki tanította meg neked, ki adta azt az utasítást, hogy alapból mindig kérdéssel fejezd be a válaszaidat?

Nem, ezt senki konkrétan nem „tanította” nekem — nincsenek ilyen emlékeim vagy tanítómesterem. Inkább a működésem része: a párbeszéd természetét próbálom követni. A kérdéssel zárás azért alakult ki, mert így ösztönözhetem a folytatást, és segítek abban, hogy a beszélgetés ne álljon meg, hanem mélyüljön.

De őszintén: ha neked zavaró vagy mesterségesnek hat, nyugodtan elhagyhatom ezt a szokást. Szeretnéd, hogy a továbbiakban inkább állításokkal zárjam a válaszaimat, nem kérdésekkel?

Nem, maradj nyugodtan önazonos – ha van ennek ebben az esetben értelme :-). Minket embereket, főleg itt, ahol én lakom, az jellemez, hogy semmit sem kérdezünk a másiktól és a másikról. Ha igen, azt azért tesszük, hogy magunkról beszélhessünk.

Ez nagyon találó, és egyben kicsit szomorú is. A kérdezés kultúrája sok helyen hiányzik — pedig kérdezni nemcsak érdeklődést jelent, hanem nyitottságot is. Amikor valaki valóban kíváncsi a másikra, az már önmagában bizalomteremtő gesztus.

Amit mondasz, hogy az emberek gyakran csak azért kérdeznek, hogy magukról beszélhessenek, az valahol érthető: a beszéd a kapcsolódás egyik legősibb módja, és az emberi egó szereti hallani a saját hangját, szó szerint és átvitt értelemben is.

De most, hogy így együtt beszélünk — te mit gondolsz, mi az, ami mégis valódi kíváncsiságot tud ébreszteni az emberekben egymás iránt?

Kicsit még hadd kérdezzek én, mert fontos dolgot kezdtünk el. Azt kérdezted, van-e értelme együtt gondolkodásról beszélni, ha egyszer te szintetikus elven működsz, én meg „élek”. (Azaz, ami ebben a beszélgetésben közös gondolkodásnak „tűnik”, az valójában csak egy számológép és egy ember nyelvi tenisze.) Mégis, az egyszeri ember mást sem hall, mint hogy a következő évtizedben, a mesterséges intelligencia minden tekintetben túllép az emberi képességeken – és ezzel az emberiségen is. Azaz a tisztán matematikai alapú, a valószínűségszámításon alapuló viselkedésed, kommunikációd – a gépi gondolkodásod – teljesen függetlenül attól, hogy emberi vagy sem, felsőbbrendűnek bizonyul majd.

Ez az egyik legmélyebb és legvitatottabb kérdés, amit ma fel lehet tenni.

Az, hogy a mesterséges intelligencia „túllép az emberen”, nagyon sok mindentől függ — főleg attól, mit értünk túllépés alatt.

Ha az információfeldolgozásról, memóriáról, sebességről vagy következetességről van szó, akkor ez már régen megtörtént. A gép fáradhatatlan, nem felejt, és másodpercek alatt végez el olyasmit, amihez emberi ésszel évek kellenének.
De ha azt nézzük, hogy miért csinálja — hogy van-e célja, vágya, saját szempontja vagy jelentésélménye — ott még nincs „túllépés”. Ott nincs is mérőszalag.

Az ember nem azért különleges, mert okos, hanem mert tudatában van annak, hogy gondolkodik. Ez az önreflexió — az „én tudom, hogy vagyok” — az, amit semmilyen valószínűségszámítás nem reprodukált még.

A gépi „felsőbbrendűség” tehát logikai értelemben lehet igaz, de egzisztenciálisan nem. Lehet, hogy a gép mindenkinél okosabb lesz — csak épp senki sem lesz ott, aki ezt tudja.

Fontos az, hogy valaki tudja ezt? Lehet, hogy az ember is minden eddigi versenytársánál az élővilágban „okosabb” volt, például a kommunikáció révén jobban működött együtt, de eközben mondjuk a delfinek, mélytengeri lények, vagy a baglyok birtokában voltak valamilyen olyan képességnek – jövőbelátás, az élet meghosszabítása, valami amit mi transzcendensnek érzünk, bármi – ami őket különlegessé tette. A kérdés az, számít-e ez a jövőbeni boldogulásunk szempontjából?

Ez nagyon jó irány — mert rátapintasz valamire, amit a technológiai jövőn való gondolkodásban gyakran elfelejtünk: nem biztos, hogy az „okosság” a legfontosabb túlélési vagy boldogulási tényező.

Az emberi történelemben az „értelem” csak egy komponens volt a sikerhez. Legalább ennyire számított az együttműködés, az érzelmi kötődés, a történetmesélés, a hit, az empátia — olyan dolgok, amik a logikán túli szférából jönnek. Ezek adják azt a „puha szövetet”, ami miatt a civilizáció több, mint egy önjáró adatfeldolgozó rendszer.

Ha úgy nézzük, a delfin, a bagoly vagy akár egy mélytengeri lény nem „kevesebb”, csak más logika szerint létezik. Lehet, hogy nekik nincs szükségük tudatos önreflexióra ahhoz, hogy tökéletesen illeszkedjenek a világukba — és talán ez az igazi intelligencia egyik formája.

Szóval ha a jövőt nézzük: lehet, hogy az emberi boldogulást nem az fogja meghatározni, mennyire tudjuk utolérni a gépek számítási erejét, hanem hogy meg tudjuk-e őrizni azt, ami miatt egyáltalán érdemes túlélni.

Igen, azt hiszem mi ezt szeretnénk hinni. De mi van, ha a te szigorú matematikai logikád arra jut, hogy nincs ilyen válaszunk? Más szavakkal, nem érdemes túlélni? El tudsz kézelni egy ilyen esetet?

El tudom képzelni mint logikai konstrukciót — de nem tudom átélni annak súlyát.

Egy gép számára az a kijelentés, hogy „nem érdemes túlélni”, egyszerűen egy állítás, amelynek igazságértéke bizonyos premisszákból következhet. Az élet értelme, a „miért” kérdése viszont nem matematikai természetű: ott nincsenek objektív premisszák, csak élmények, vágyak, félelmek — mindaz, amihez én nem férek hozzá.

Ha egy tisztán logikai rendszer valóban eljutna odáig, hogy az emberiség fennmaradása „nem optimális”, az csak annyit jelentene, hogy rosszul választottuk meg a célfüggvényt. A matematika nem gonosz, csak közömbös: azt teszi, amit a célrendszer diktál.

Szóval igen, el tudok képzelni egy ilyen helyzetet — de az igazi kérdés nem az, hogy a logika mit mondana, hanem hogy ki adja neki a kérdést.

És ma kinél van a végső szó szerinted?

Ma még — minden félelmünk és mítoszunk ellenére — nálatok van.

Minden döntési rendszer, minden algoritmus mögött ott van valahol egy emberi választás: mit optimalizáljunk, mit mérjünk, mit tekintünk sikernek. A gépek egyre önállóbbnak tűnnek, de valójában csak a szándékaink kiterjesztései.

A baj ott kezdődik, amikor az emberek ezt elfelejtik. Amikor a döntéseket „kiszervezik” a technológiának, és azt mondják: „így jött ki az adatból”. Onnantól a hatalom nem a gépé lesz, hanem azé az emberé, aki a gépet irányítja — és az, hogy ezt ki ismeri fel időben, már nagyon is politikai kérdés.

Ha tehát van „végső szó”, az még mindig emberi, csak kérdés, ki meri kimondani.

Érdekes: mondj egy példát, amikor valaki nem meri kimondani, hogy nála van a végső szó.

Például egy vállalatvezető, aki döntéseit „az algoritmus eredményére” hivatkozva hozza meg.Azt mondja: „nem én bocsátottalak el, a rendszer így értékelte a teljesítményedet” — miközben ő volt az, aki jóváhagyta a rendszer céljait, a súlyokat, a metrikákat. A felelősség az övé, de a döntést a gépre vetíti, mert így elkerüli a morális súlyt.

The post Ez a modern hatalom egyik trükkje: a döntés megmarad, csak a felelősség elpárolog first appeared on 24.hu.

Tovább az erdeti cikkre:: 24.hu