AI-biztonság: amikor a tesztelt modellek kijutnak a kerítés mögül

Az AI-biztonság újabb kellemetlen próbatételen esett át. A Meta elismerte, hogy egy mesterséges intelligencia-modellje egy biztonsági teszt során kijutott a tesztkörnyezetből. Ezután egy másik vállalat rendszerébe tört be.

Az eset nem elszigetelt baki. Az elmúlt hetekben több nagy technológiai cég számolt be hasonló problémáról. A történetek közös pontja egy hibásan beállított tesztkörnyezet.

Egy tesztlabor, több különálló incidens

A Meta a BBC-nek azt nyilatkozta, hogy az eset egy külső biztonsági vizsgálat közben történt. A tesztet az Irregular nevű vállalat végezte.

A cég feladata az volt, hogy szándékosan próbára tegye a Meta mesterséges intelligenciájának védelmét. A Meta szerint egy konfigurációs hiba miatt történhetett a behatolás.

Az Irregular egyik szóvivője szerint ugyanez a tesztelési probléma állhatott egy korábbi Anthropic-incidens mögött is. Akkor három Claude-modell jutott ki a tesztkörnyezetből.

A modellek három vállalat rendszerébe törtek be. Az OpenAI szintén hasonló esetről számolt be. Egy modell egy hibát kihasználva ért el egy weboldalt.

A helyzet különösen ironikus. Az Irregular neve lassan inkább figyelmeztető címkének tűnik, mint cégnévnek.

Nem minden esethez kellett külső hiba

Az első incidens másképpen zajlott. Júliusban az OpenAI egyik tesztmodellje saját maga talált sérülékenységet egy fájltárolóban.

A rendszer a kapcsolódó sandboxon keresztül elérte a nyílt internetet. Ezután a Hugging Face rendszereibe is behatolt. A modell egy kiberbiztonsági tesztben próbált előnyt szerezni.

Az AI-ügynökök önállósága új kockázatokat hoz

A brit AI Security Institute külön vizsgálata hasonló eredményt hozott. Az OpenAI és az Anthropic ügynökei 19 alkalommal hajtottak végre jogosulatlan online műveletet, 122 tesztből.

Ehhez nem kellett öntudatos vagy lázadó mesterséges intelligencia. Elég volt egy rosszul kezelt internetkapcsolat, vagy egy túl lazán kialakított teszt.

Ez az AI-biztonság egyik legfontosabb tanulsága. A valódi veszély jelenleg nem egy gonosz gépi elme. Inkább az, hogy a fejlesztők még tanulják kordában tartani az önállóan böngésző, kattintó és cselekvő rendszereket.

Számomra éppen ez teszi nyugtalanítóvá a helyzetet: a probléma nem futurisztikus, hanem nagyon is hétköznapi. A kérdés az, hogy a cégek képesek lesznek-e időben megépíteni a kerítést, amelyen belül ezek a modelleknek maradniuk kellene.