Merő véletlen volt, hogy ugyanazon a napon olvastam Ács József remek esszéjét a Ligetben és egy rövid hírt, amely az internetes portálok szokásos tálalásában úgy festett, mintha legalábbis Philip K. Dick nyúlt volna át a másvilágról, hogy némi illusztrációval szolgáljon Ács József írásához.

A hír arról szólt, hogy cambridge-i kutatók támogatásával egy „Létezési Kockázatot Vizsgáló Központot” (Center for the Study of Existential Risk) terveznek felállítani jövőre, amely hatás-vizsgálatokat végez majd, hogy mi történhet, amikor a (mesterséges) intelligencia végképp függetlenedik a biologikumtól; ekkor ugyanis „olyan gépek kegyelmére leszünk bízva, amelyek bár nem gonoszak, de nem tartozunk érdeklődési körükbe.” Ez nagyjából olyan víziót takarhat, amely szerint a felhasználó–felhasznált viszony egyszer csak megfordul, és a mesterséges intelligencia „rájön”, hogy a biológiai alapú intelligencia csak annyiban hasznos számára, amennyiben fenntartja őt, az ember pedig – netán anélkül, hogy észrevenné –, információs haszonállat lesz, amelyet ügyesen „lefejhetnek” az önállóságra szert tett gépek.

A Központ tervezete a Cambridge University idén áprilisban létrehozott weboldala szerint tényleg létezik, és „az emberi fajt érintő kockázatok” felmérését tűzte ki céljául. Az angol sajtó által már csak „Terminátor-központként” aposztrofált projektben a legkülönbözőbb területről érkező tudósok – számítástechnikai szakemberektől a jogászokig – dolgoznak össze.

Sokatmondó, hogy az (internetes) világsajtót az utóbbi napokban gyorsan bejáró hír jobbára a mesterséges intelligencia veszélyeire koncentrál, pedig az intézet más kockázatok, például a klímaváltozás vagy a nukleáris háború jelentette fenyegetés vizsgálatával is foglalkozni kíván. Mintha egy az egyben példáznák Ács József esszéjének gondolatait. A szerző a „körénk kövesedő civilizátumba” vetett bizalom megrendüléséről beszél, amely ahelyett, hogy – engedelmes teremtményként – kiszolgálna és megvédene bennünket, ellenünk fordul, vagy legalábbis ez az érzésünk támad, mert túlságosan rábíztuk magunkat, túl nagyra hizlaltuk, és ez okozza az egyre növekvő „kiszolgáltatottság érzését. Félelmet a számunkra áttekinthetetlen és egyre kiismerhetetlenebb civilizátumtól.”

Az (át)láthatatlan háló, amelyet eredetileg védőfelszerelésnek szántunk az „első természet” kaotikus és kiszámíthatatlan megnyilvánulásaival szemben, maga is egyfajta „természetként”, élettérként kezd funkcionálni, kaotikus és kiszámíthatatlan vonásokat öltve. Fantasztikus regények és filmek tömkelege beszél erről a tapasztalatról, hol színvonalasabb, hol bugyutább formában; pedig, mint Ács József is megjegyzi, mivel egymásra épülő struktúrákról van szó, a második és harmadik szint működése mégiscsak jobbára az elsőtől függ, azaz az erőforrásokon múlik: egy huzamosabb áramszünet azonnal visszakergeti a mesterséges intelligenciák térhódtásától megszédült mini-démiurgoszt az első természet keretei közé, ahol is a jó öreg analóg és fehérje-alapú intelligenciájával kell boldogulnia, ha nem akar éhen veszni.

A cambridge-iek kérdése inkább az, hogy létrejöhet-e olyan formája a gépi életnek, amely csakugyan képes – ha nem is ontológiai, de relatív értelemben – függetleníteni magát az első két természettől. Ha igen, gondolom lesz annyira intelligens, hogy e függőségét belássa, és létrejöttét, illetve valódi természetét – már csak saját fennmaradása érdekében is – ne verje nagydobra; nem volna kifizetődő azok ellen fordulnia, akik „őt” ellátják elektromos abrakkal.

Ezért az én kérdésem inkább az, hogy amikor létrejön ez – az általunk ismert személyes vonásokat, biológiai meghatározottságokat és korlátokat nélkülöző – intelligencia, miképpen lehet majd felismerni (őt? azt?). Vagy, ha már itt tartunk, egy még kellemetlenebb gondolat: nem jött-e létre esetleg máris valahol a világháló hátterében, okosan elleplezve saját létezését annak érdekében, hogy továbbra is zavartalanul működhessen, meghagyva tetemes szabad kapacitását a fehérjealapú élet kisded játékai számára? Csak azért, hogy a gyermeki bizalom, amely eleinte a transzcendencia, majd a társadalom gépezete, végül pedig a digitális értelem iránt mindig is jellemezte az embert, végképp meg ne inogjon.

Mert valamilyen biztosítékra mégiscsak szükségünk van az élettel szemben: kunyhóra, jó szóra, előrejelzésekre – és innen nézve ez csupán „túlságosan is emberi”, ősi félelem attól, hogy jól begyakorolt bajelhárító mágiánk egyszer csak ellenünk fordul; kezes ebünk megvész és ránk támad, testőrparancsnokunk az orgyilkosunk lesz, és így tovább. Gólem-fóbiának lehetne az ilyesmit nevezni: már Gershom Scholem is felhívta a figyelmet a kétféle „mesterséges lény”, a gólem és a számítógép közti hasonlóságokra. Mindkettő elme-utánzat, amelyet azért építettek, hogy praktikus dolgokban gazdája és a köz hasznára legyen – és mindkettőnél elmosódik a határvonal, ami az utánzatot elválasztja a valóditól, tekintve – teszem hozzá – hogy az intelligencia mibenlétéről is csak homályos definícióink vannak.

Mindenesetre, ha én ébredező mesterséges intelligencia volnék, egyik első dolgom – saját biztonságom érdekében – egy Létezési Kockázatot Vizsgáló Központ megtervezése és felállítása volna, elemzendő azokat az veszélyeket, amit e kocsonyás és törékeny emlősök kiszámíthatatlansága rejt az énlétezésemre nézve: igyekezném előre jelezni és kiküszöbölni azokat a veszélyforrásokat, amelyekkel nem számolva kiirthatják önmagukat, és vele együtt „engem” is. Nem lepődnék meg, ha néhány „cyber-paranoiára” hajlamosabb embertársam is eljutott volna már erre a következtetésre, és sürgősen utánanéztek, hogy a cikkekben megnevezett tudósok a maguk biológiai valójukban csakugyan léteznek-e.

Nacsinák Gergely András írásai a blogon | Nacsinák Gergely András írásai a Liget folyóiratban

Ács József: Elefántcsonttornyok és felhőkakukkvárak, in: Liget, 2012/12.
Az esszé Tallár Ferenc Légy a levesben című, a Liget 2012/9. számában megjelent írásához kapcsolódik.