AI biztonsága: miért ébredt fel hirtelen a brit politika?

A AI biztonsága már nem csupán technológiai kérdés. A brit kormányban egyre többen tartanak a hackertámadásoktól, a biológiai fenyegetésektől és a túl gyors fejlődéstől.

A figyelem különösen azután erősödött fel, hogy több politikus nyilvánosan is komoly veszélyekről beszélt. A háttérben nem robotok lázadása áll, hanem a koncentrált, rendkívül nagy hatalom.

Nem a gyilkos robotok jelentik a fő veszélyt

A brit kormány egyik minisztere szerint a legnagyobb aggodalmat a rossz szereplők kezébe kerülő szuperintelligencia okozza. Egy ilyen rendszer hatalmas erőforrásokat mozgathatna meg.

A szakértők szerint a mesterséges intelligencia már most felgyorsítja a kiberbiztonsági versenyt. A támadók és a védekezők egyaránt fejlettebb eszközökhöz jutnak.

Az MI-t használó hackertámadások ezért már nem távoli forgatókönyvek. Egy állami rendszer feltörése komoly társadalmi és gazdasági következményekkel járhat.

Nyílt modellek, eltávolítható korlátok

A brit parlament egyik meghallgatásán az OpenAI, az Anthropic, a DeepMind és a Meta képviselői is részt vettek. A vita egyik központi kérdése a kötelező modelltesztelés volt.

A fizetős rendszerek általában biztonsági korlátokat alkalmaznak. A nyílt forráskódú AI-modellek viszont szabadon módosíthatók.

Geoffrey Irving, az Egyesült Királyság korábbi AI-biztonsági kutatója szerint ezek a modellek már most komoly károkat okozhatnak. A védelmi korlátok gyakran könnyen eltávolíthatók.

Az azonnali veszélyek fontosabbak lehetnek

Nem minden kutató látja reálisnak az emberiség teljes pusztulását. Elena Simperl professzor szerint erre jelenleg nincs elegendő bizonyíték.

Szerinte a figyelmet inkább a már igazolt problémákra kell fordítani. Ilyen a hackelés, a félretájékoztatás és az MI-felületek függőséget erősítő működése.

Ez a megközelítés különösen fontos, mert a távoli végítélet-forgatókönyvek könnyen elterelik a figyelmet a mindennapi károkról.

Szabályozás vagy innováció?

A brit döntéshozók nehéz egyensúly előtt állnak. Meg kell akadályozniuk a veszélyes fejlesztéseket, miközben nem szeretnének technológiai hátrányba kerülni.

Az MI komoly segítséget nyújthat az egészségügyben, a közigazgatásban és a termelékenység javításában. A túl szigorú szabályozás azonban lassíthatja ezeket a lehetőségeket.

A AI biztonsága ezért nem egyszerű tiltási kérdés. Folyamatos ellenőrzésre, nemzetközi együttműködésre és átlátható felelősségi szabályokra lesz szükség.

A technológia fejlődése aligha áll meg. A valódi kérdés az, hogy a kormányok képesek lesznek-e lépést tartani vele, mielőtt a kockázatok gyorsabban nőnek a megoldásoknál.