Római nyilatkozat: fegyvertelen és leszerelő béke az MI és a nukleáris korszakában

A Római nyilatkozat nem hétköznapi dokumentum: Nobel-díjasok, kutatók, vallási vezetők és volt államfők gyűltek össze Rómában, hogy az Age of Artificial Intelligence and Nuclear Weapons korára választ adjanak. A cél egyszerű, mégis óriási: újra erősíteni a nemzetközi együttműködést, miközben az MI és a nukleáris arzenálok veszélyei nőnek.

Miért érdekes ez nekünk? Mert a döntések sebessége és hatóköre is gyorsul. És közben könnyű lenne elhinni, hogy majd az algoritmusok “okosabban” intézik. De a szöveg üzenete határozott: nem gépeknek kellene élet-halál kérdésekben dönteniük.

Mi a Római nyilatkozat lényege?

A “Rome Declaration for an Unarmed and Disarming Peace in the Age of Artificial Intelligence, Nuclear and Autonomous Weapons…” néven futó felhívást 200+ elismert szaktekintély írta alá. A római Kapitólium alatt a hangulat egyszerre volt ünnepélyes és nyugtalanító: túl sok a kockázat, és túl kevés az idő.

A szöveg rámutat arra, hogy a tudomány és technológia elképesztő lehetőségeket hozhat. Egészségügy, oktatás, közegészség, környezetvédelem, szegénység elleni küzdelem. Csakhogy etikátlanul, felelősség nélkül könnyen válik uralom eszközévé.

“Nincs gép az egzisztenciális döntések közepén”

A Vatikánhoz köthető felszólalások központi eleme, hogy no machine, no algorithm nem lehet döntési központ a túlélés kérdéseiben. A Római nyilatkozat egyik legerősebb mondata szerint a “béke és háború” jövője nem automatizmusra való.

Őszintén szólva nekem ez gamer szemmel is ismerős. A “szabályrendszer” legyen oké, de a döntések végén mindig emberi felelősség kell. Ha ezt kivesszük, a rendszer könnyen rossz pályára kerül.

MI és nukleáris fegyverkezés: közös iránytű kell

Az előadók szerint az MI képes arra, hogy embereket építésre vagy pusztításra is mozgasson. Ezért nem elég technológiáról beszélni. Kell erkölcsi iránytű, és kell olyan nemzetközi keret, amely csökkenti a háború és megsemmisülés kockázatát.

David Gross Nobel-díjas fizikus külön is hangsúlyozta: a nukleáris veszély ma nagyobb, mint 30 éve, és a leszerelési megállapodások mintha eltűntek volna. A nyilatkozat javaslatai szerinte egyszerűek, mégis sürgőssek: a nukleáris államok csökkentsék a kockázatot.

És akkor jön a kérdés, ami szerintem nem hagy nyugodni: ha már az MI és a fegyverkezés is “gyorsít”, mi marad lassú, emberi kontroll alatt? Meddig bízhatunk abban, hogy a jó szándék automatikusan felülírja a rossz forgatókönyveket?