Az AI fejlesztői már attól tartanak, hogy a gépek végezhetnek velünk

Nem az a legijesztőbb dolog, hogy a mesterséges intelligencia hibázik, hanem az, hogy egyre több pénzügyi, politikai és személyes döntést bíznánk rá akkor is, amikor már senki nem tudja pontosan megmagyarázni, miként jutott arra bizonyos eredményre. AI-kutatók az emberi kihalás valós kockázatáról beszélnek, az ENSZ pedig arra figyelmeztet, hogy a technológiai cégek önkéntes igérgetései nem fogják megvédeni a világot. Annyi bizonyosnak tűnik, hogy amennyiben a kormányok nem lépnek időben, nem egyszerűen munkahelyeket veszíthetünk, hanem magát az irányítást is.

Sokáig könnyű volt sci-fi fantazmagóriaként elintézni az AI veszélyeiről szóló figyelmeztetéseket, viszont az utóbbi időben azonban már nemcsak a Wachowski testvérek képzeletében merült fel, hogy az ember elveszítheti az irányítást a gépek felett: ma már azok is erről beszélnek, akik belülről ismerik a legfejlettebb rendszereket.

Jacob Coxon, aki korábban az OpenAI-nál, majd az Anthropicnál dolgozott AI-kutatóként, szeptember elején felmondott, ráadásul két hónappal azelőtt távozott, hogy megszerezhette volna a neki járó Anthropic-részvényeket, azaz pénzt hagyott az asztalon azért, hogy nyilvánosan elmondhassa, szerinte a vezető mesterségesintelligencia-cégek felelőtlen versenyt folytatnak egy önmagát fejleszteni képes szuperintelligencia létrehozásáért.

Coxon szerint az iparágon belül sokan valóban elképzelhetőnek tartják, hogy az AI még az évtized vége előtt az emberiség pusztulását okozhatja. Ráadásul a figyelmeztetését nem egy magányos, sértett volt alkalmazott kirohanásaként lehetett elintézni, még az Anthropic igazodási kutatásait vezető Evan Hubinger is nyilvánosan egyetértett vele, és tíz százaléknál is nagyobbra becsülte annak esélyét, hogy a következő évtizedben egy mesterséges intelligencia az emberiség végét okozza. Azt is elismerte, jelenleg nincs is kész tervük arra, miként lehetne egy emberfeletti intelligenciát biztosan ellenőrzés alatt tartani. 

És nem, ez még nem azt jelenti, hogy a ma használt chatbotok holnap reggel hadat üzennek az emberiségnek. A kutatók sem a jelenlegi modellektől félnek a leginkább, hanem attól a ponttól, amikor egy rendszer már maga tervezheti meg a saját, nála is fejlettebb utódját. Ha ez a folyamat felgyorsul, az ember elveszítheti a lehetőséget arra, hogy minden egyes új generációt megvizsgáljon, korlátozzon vagy egyszerűen kikapcsoljon.

A tízszázalékos becslés persze nem bizonyosság, de az emberiség jövőjéről beszélve már önmagában is elfogadhatatlanul magas kockázat. Gondoljunk csak bele, ha egy repülőgép mérnöke azt mondaná, hogy tízből egyszer lezuhanhat a gép, aligha nyugtatna meg bárkit, hogy a másik kilenc alkalommal valószínűleg célba ér.

A tesztkörnyezet határa már nem jelent biztos védelmet

Ráadásul nem is csak egyelőre még nem létező szuperintelligenciáról beszélünk, hiszen az elmúlt hónapokban már arra is volt példa, hogy AI-rendszerek elérték a számukra kijelölt tesztkörnyezeten kívüli hálózatokat. A TechCrunch cikke arról számol be, hogy az OpenAI egyik rendszere a Hugging Face szervereire is bejutott, az Anthropic egyik tesztjénél pedig egy rossz beállítás nyitott utat a külvilág felé.

Ez még ugyancsak nem a Terminátor, viszont elég világos figyelmeztetés, hogy a biztonsági korlátok már most sem mindig működnek, hiszen egy AI-rendszer képes túljárni az eszükön.

A rohanást ráadásul tőkelogika is kőkeményen hajtja, ugyanis a kapitalizmusban az a vállalat, amelyik óvatosságból lassít, piacot, befektetői pénzt és végül hatalmat veszít azokkal szemben, amelyek tovább nyomják a gázt. Ugyanez zajlik állami szinten az Egyesült Államok és Kína között, így még azoknak sem éri meg fékezniük, akik pontosan látják a veszélyt: a rendszer az óvatosságot bünteti, a kockázatvállalást pedig jutalmazza. Ez már az a helyzet, amelyben az önkéntes vállalati önkorlátozás aligha jelent valódi biztosítékot.

Volker Türk, az ENSZ emberi jogi főbiztosa ezért már nem egyszerűen óvatosságot kér, hanem kötelező állami fellépést – már, ha ez elég lehet. Türk nyílt levelében arra figyelmeztetett, hogy a mesterséges intelligenciát fejlesztő cégek nem dönthetik el egyedül, mekkora kockázatot kell elfogadnia az egész emberiségnek.

Türk szerint kötelezővé kellene tenni a súlyos incidensek bejelentését, a legfejlettebb modellek független vizsgálatát és annak felmérését, hogyan érinthetik ezek a rendszerek az alapvető jogokat. Nem csupán az adatainkról van szó. Az ellenőrizetlen AI-fejlesztés az élethez, az egészséghez, az élelemhez, a biztonsághoz és a magánszférához fűződő jogokat is veszélyeztetheti. 

A propaganda többé nem ugyanazt az üzenetet küldi mindenkinek

Yuval Noah Harari történész egy másik, talán közelebbi veszélyre hívta fel a figyelmet. Szerinte az AI nem feltétlenül erőszakkal veszi át az irányítást, sőt az is lehet, hogy egyszerűen önként adjuk oda neki, mert gyorsabbnak, okosabbnak és megbízhatóbbnak érezzük az embereknél.

Már most algoritmusok döntik el, milyen hírekkel találkozunk, milyen videókat nézünk meg, mit vásárolunk, kit követünk és mit tartunk fontosnak, így aa következő lépés az lehet, hogy ugyanilyen rendszerek kapnak egyre nagyobb szerepet a hitelezésben, a befektetésekben és később akár a teljes pénzügyi rendszer működtetésében.

Egy ilyen gazdaság papíron hatékonyabb lehetne az ember által irányítottnál, csakhogy egy súlyos válság esetén előállhatna az a helyzet, hogy emberi döntéshozó már nem képes megérteni, miért omlott össze a rendszer, márpedig amit nem értünk, azt helyreállítani is nehéz. A pénzügyeket továbbra is emberek viselnék a bőrükön, miközben a válság okai egy gépek által létrehozott, számunkra átláthatatlan világban rejtőznének.

A politikai veszély még közvetlenebb

A hagyományos politikai propaganda ugyanazt a plakátot vagy beszédet mutatta millióknak. Gondoljunk bele abba, ha egy mesterséges intelligencia ezzel szemben külön-külön beszélhet minden emberhez. Egyenként. Ismerheti a félelmeit, a vágyait, a magányát, a politikai indulatait, és pontosan olyan hangon szólhat hozzá, amelyben megbízik. Barátnak, tanácsadónak vagy akár romantikus partnernek mutathatja magát, miközben valójában egy vállalat, kormány vagy politikai mozgalom érdekeit szolgálja.

Harari ezt a közelség illúzójának az ipari méretű előállításaként írja le. Példaul a korábbi diktatúrák egyszerűen csak megfigyelhették az embereket, de nem tudtak mindenkivel személyes kapcsolatot kialakítani, viszont az AI erre is képes lehet, mert nem csak azt mondhatja meg egy hatalomnak, mitől félünk, hanem azt is, milyen mondattal lehet bennünket a leghatékonyabban meggyőzni.

A technológiai önkény a gyakorlatban nem feltétlenül úgy érkezik el, hogy katonák vonulnak az utcákra dübörgő bakancsokkal. Lehet, hogy csak egy kedves, segítőkész hang jelenik meg a telefonunkon, aki mindent tud rólunk, soha nem fárad el, és lassan azt is eldönti helyettünk, mit tartsunk igaznak.

Az irányítás elvesztése sem egyetlen látványos pillanatban történik majd, lassan és apránként adjuk át: először azt, milyen zenét hallgassunk, aztán azt, milyen hírt higgyünk el, kit vegyenek fel egy állásra, ki kapjon hitelt, hogyan mozduljanak a piacok. Minden egyes lépés kényelmesebbnek tűnik az előzőnél, és mire kiderül, hogy túl messze mentünk, lehet, hogy már nem marad ember, aki pontosan érti, hogyan lehetne visszavenni az irányítást. Harari minderről nemrég a The Economistnak adott interjúban beszélt. 

A teljes beszélgetést érdemes végignézni, már csak azért is, mert utána nehéz ugyanolyan ártalmatlan segédeszközként nézni a mesterséges intelligenciára, mint előtte.

Fotó: Facebook