Stephen Hawking igen sokat szerepel manapság a hírekben. A személyes történetét feldolgozó új filmet, A mindenség elméletét már Oscar-várományosként emlegetik. 1963-ban diagnosztizálták nála a rettegett Lou Gehrig-kórt, és két évet adtak neki, ennek ellenére briliáns karriert futott be, nemzetközi bestsellereket írt, több tucat díszdoktori címet kapott, és széles körű elismerésre tett szert mint Einstein óta az egyik legkitűnőbb elméleti fizikus.

Hawking kétségkívül nem félős ember, mégis egy friss BBC-interjúban bevallotta, hogy aggódik az emberiség jövőjéért. Az aggodalmának oka pedig a mesterséges intelligencia, vagyis olyan intelligens gépek készítése, melyek okosabbak lehetnek a teremtőiknél. Ami az IBM Wat­­son szuperszámítógépével kezdődött, amely képes volt sakknagymestereket megverni, Hawking figyel­mez­te­­tése szerint a közeli jövőben mattot adhat a tervezőjének, hogy ő uralja a földet.

A teljes mesterséges intelligencia kifejlesztése az emberi faj végét jelentheti, mondta Hawking.

A sci-fik már felkészítettek minket erre. Az olyan filmek, mint a Terminátor és a Mátrix, embereket helyezett mesterséges intelligencia által irányított ellenségekkel szembe. A most készülő Bosszúállókban szuperhősök kényszerülnek az Ultron (egy, az emberiség elpusztítására törekvő mesterséges intelligenciájú gép) elleni harcra.

Hatalmas a különbség a teremtésre való képesség és az irányítás képessége között. Ahogy Ray Kurzweil, a Google technikai igazgatója mondta: „Nehéz lehet egy olyan algoritmikus erkölcsi szabályrendszert írni, amely elég erős ahhoz, hogy irányítson és korlátozzon egy szu­perokos software-t.” A tudományos fejlődés legnagyobb veszélye az, hogy amit létrehozunk, önálló életre kel, és nem lesz többé a teremtőjének vagy az emberi értékeknek alávetve.

Ez lehetett évszázadokon át a prágai gólem legendájá­nak tudatalatti üzenete. A zsidó hagyomány szerint Má­há­rál, a XVI. századi prágai Jehuda Lőw rabbi kabbalatu­dá­sát felhasználva életet lehelt egy agyagdarabba, és az a zsi­dók emberfeletti védelmezőjévé vált. A homlokára az e­met szót írta, mely héberül igazságot jelent, és amelytől misz­tikus módon a gólem az erejét kapta.

Legnagyobb megdöbbenésére azonban Máhárál hamarosan észrevette, hogy amint megkapta a teljes erejét, a gólemet többé lehetetlen volt irányítani. A történetnek különböző variáció léteznek. Az egyikben a gólem sze­relmes lett, és amikor visszautasították, gyilkos szörnyeteggé változott. Egy másikban megmagyarázhatatlan gyilkolásba kezdett. A legcsodálatosabb elbeszélés szerint pedig maga Máhárál volta a hibás – kvázi programozási hibát követve el –, mert elfelejtette hatástalanítani a gólemet sábesz előtt, mint máskor. Emiatt a gólem megsértette a nap szentségét, és halálbüntetést érdemelt.

Bármi is volt az oka, Máhárál arra a következtetésre jutott, hogy a gólemet el kell pusztítani. Kitörölte az emet szó első betűjét, az alefet, amelynek számértéke egy, az egyetlen I-tent jelképezve, aki egyedüliként tud életet adni. Így csak két betű maradt a homlokán, amely a met (halál) szót adta ki. Miután többé már nem az egyetlen teremtő akaratát jelképezte, és nem viselte a jelét a homlokán, a gólem porrá vált.

Sok tudós úgy véli, hogy a gólem legendája ihlette Mary Shelleyt a híres Frankenstein-története megírására, amelyben egy unortodox tudományos kísérlet folyamán életet teremtenek, ám ennek borzalmas következményei lesznek.

A kontroll nélküli teremtés biztosan katasztrófához vezet. A tudományos eredmények története bizonyítja azt, hogy az erkölcsi és etikai megfontolásokról leválasztott fejlődés megadhatja nekünk a tudást a maghasadáshoz, de mindezt csak azon az áron, hogy az egész emberiséget a kipusztítás veszélyének tesszük ki.

A prágai gólem története annak a veszélynek a para­dig­mája, amelyet a teremtményünk jelent, ha túllép a szándékainkon. A mesterséges intelligenciának mint a szellemi képességeink kiterjesztésének nyilván rengeteg előnye van. De valójában ez nem tud gondolkozni. Nincs erkölcsi érzékenysége. Nem osztja a programozójának etikai korlátait. És nem befolyásolják a létrehozójának értékei.

Stephen Hawking egy rég szükséges szívességet tett nekünk azzal, hogy figyelmeztetett bennünket a mes­ter­sé­ges intelligencia nagyon is valós veszélyeire. De amit még ennél is figyelemreméltóbbnak találok, az az a másik kijelentése, amelyet nemrég tett: Hawking nyilvánosan elismerte, hogy ateista. Egy újságíró kérdésére, aki a val­lási irányultságát firtatta, világosan kijelentette, hogy „nincs Isten”.

Az a bibliai Isten, akiben én és a világ legnagyobb része hisz, talán már bánja, hogy mesterséges intelligenciával ruházta fel az emberiséget. Talán ennek a saját technológiánkra vonatkozó aggodalomnak mi vagyunk a legjobb példái – olyan teremtmények vagyunk, akik képesek elpusztítani a világunkat, mert kételkedünk a Teremtőnkben.

fordítás: D. Ch.