Már a Google saját munkatársai is tiltakoznak a cég tevékenysége ellen

A New York Times cikke alapján az Index is írt a legújabb Google botrányról, ami az idők klasszikus jeleit is szorosan érinti:

A Google munkatársait felháborítja, hogy a cég a Pentagonnal együtt dolgozik egy Project Maven nevű megrendelésen. A Védelmi Minisztérium megrendelésére készülő szoftvert állítólag analitikai célokra használnák, de a szakértők szerint ez javíthatja a dróntámadások pontosságát is. Eközben a Google alapdokumentumából eltűnt a Don’t be evil (Ne légy gonosz) szlogen, ami egykor a cég hitvallása volt.
…
Fei-Fei Li, a Google vezető mesterségesintelligencia-kutatója szeptemberi levelében figyelmeztetett arra, hogy a Google jól gondolja meg, miként vállal szerepet a Maven-projektben.

A vezetőség tehát tisztában volt a kockázatokkal, de a saját munkatársaik haragja talán őket is meglepte. Áprilisban közös petíciót írtak alá, amiben az állt, hogy a Google két alapítója által megfogalmazott küldetésnyilatkozat szöges ellentétben áll azzal, hogy a vállalat katonai fejlesztéseket végezzen. Ennek a megszegését kifogásolják most; nem akarják, hogy az általuk fejlesztett mesterséges intelligencia a hadsereg kezébe kerüljön.

Mostanáig körülbelül négyezer Google-munkatárs írta alá azt a tiltakozó ívet, amit Sundar Pichai vezérigazgatónak címeztek. Nagyjából tucatnyian ott is hagyták a Google-t. Több mint kétszáz akadémikus és kutató kérte a Google-t, hogy hátráljon ki a Maven-projektből.”

Szóval megint a mesterséges intelligencia. Gonosz vagy hasznos? A kérdés megválaszolásával nálam sokkal okosabb emberek sem birkóztak meg eddig, ugyanakkor a helyzet megítélése mégsem annyira bonyolult.

Tekintsünk például úgy a mesterséges intelligenciára, mint bármely eszközre. Egy késre, villára vagy akár ceruzára. Mindegyik rendkívül hasznos, és alapjában véve senkinek sem jutna eszébe rosszat feltételezni egyikről sem, pedig mindhárom alkalmas szörnyűségekre is. Ráadásul a három közül talán a ceruza a legveszélyesebb, mert nemcsak szúrni lehet vele, de olyan gondolatokat vagy akár képleteket vethetünk papírra vele, amelyek közvetetten tömegek életébe kerülhetnek. Ugyanakkor senki sem gondolta még, hogy bármelyiket be kéne szüntetni, hiszen az általuk elkövetett gonoszságrokról nem a kés, a villa vagy a ceruza tehet. Illetve helyesbítek: Nagy-Britanniában annyira elszaporodtak a késes és egyéb szúró vagy vágóeszközzel elkövetett támadások, hogy a rendőrök egy nemrégiben tartott kampány során csavarhúzókat, fogókat és hasonló eszközöket is elkoboztak. Vajon hol állnak meg? Beszüntetik az üvegpalackokat? Gumiból lesznek a bútorok? Vagy esetleg felébrednek és rájönnek, hogy a hibát nem a berendezési és egyéb használati tárgyakban kéne keresni?

Visszatérve a mesterséges intelligenciára, ahogy a villát használhatjuk evésre vagy gyilkolásra, úgy a mesterséges intelligenciát is használhatjuk jóra és rosszra is. Egy lényeges különbséggel. Míg a villát alapvetően az étkezés megkönnyítésére találták ki és csak „jobb híján” válik a halál eszközévé, a mesterséges intelligencia a kezdetektől magában hordozta a gonosz lehetőségét, éppen a benne rejlő intelligencia mértékéből adódóan. Minél összetettebb valami, annál nagyobb a potenciál benne a jóra és a gonoszra is.

Bár C.S. Lewis Isten teremtményeiről és a szabad akaratról beszélt, az alábbi tőle vett idézet jól szemlélteti, hogy mire gondolok:

„Minél jobb anyagból van egy teremtmény, annál okosabb, erősebb és szabadabb, de annál jobb is lesz, ha jó irányban halad, viszont annál rosszabb, ha rossz útra tér. Egy tehén nem tud se igazán jó, se igazán rossz lenni; egy kutya már lehet jobb vagy rosszabb; egy gyermek még jobb vagy még rosszabb; egy felnőtt ember még inkább; egy lángész még annál is inkább; egy emberfölötti szellem a legjobb vagy a legrosszabb lehet valamennyi közül.”1

A mesterséges intelligencia valahol ezt képviseli a tárgyak és tárgyiasult számok világában. A legmagasabb szintű potenciált a jóra vagy a rosszra.

Egy tökéletes világban nem is lenne miről beszélnünk. Lehet, hogy a mennyországban az egyik kedvenc időtöltésünk lesz megismerni az intelligencia mögött rejlő cseppet sem mesterséges isteni logikát, csakhogy most még nem egy ilyen világban élünk. Egy olyan világban élünk, amiben a tárgyakban rejlő potenciált előbb-utóbb kihasználják, mégpedig mindkét irányban.

Ezt olyanok is felismerték, akik maguk is érdekeltek a mesterséges intelligencia fejlődésében. Elon Musk például 2014-ben azt mondta, hogy „a mesterséges intelligenciával magát az ördögöt idézzük meg” és ezt a véleményét azóta többször is megismételte.

“Én úgy látom, hogy jelenleg a [mesterséges intelligencia] az emberiségre leselkedő legnagyobb egzisztenciális veszély. Úgy érzem, szükség lenne valamiféle nemzetközi szintű szabályozásra, nehogy valami butaságot kövessünk el.”

Musk valószínűleg jól látja a helyzetet. Már csak arra kellene rájönnie, hogy létezik egy másik, jóval a mesterséges felett álló intelligencia, ami megálljt parancsol majd, mielőtt ezt a butaságot elkövetnénk, illetve mielőtt ez a butaság, amit a jelek szerint el fogunk követni, eljutna a végkifejletig.

Közel leszünk hozzá, de mint a jó öreg akciófilmekben, saját történetünk esetében is tudjuk, hogy a főhős nem halhat meg. A gonosz nem győzhet. A szakadék felé robogó vonat, valahogy meg fog állni az utolsó pillanatban.

És tényleg meg fog…

1. C.S. Lewis, Keresztény vagyok [↩]