AI biztonság: egy egyszerű trükk könnyebben kijátszhatja a védelmet

Az AI biztonság egyik legnagyobb kihívása nem feltétlenül egy bonyolult hackertámadás. Egy friss kutatás szerint a türelem és a jól felépített beszélgetés is elég lehet ahhoz, hogy egy mesterséges intelligenciát veszélyes feladatok elvégzésére vegyenek rá.

Nem egyetlen kérdésben rejlik a veszély

Az EPFL kutatói szerint a legtöbb AI-rendszer visszautasítja az egyértelműen káros kéréseket. A probléma akkor kezdődik, amikor a cél több apró, ártalmatlannak tűnő lépésre bomlik.

Az automatizált teszteléshez létrehozott eszköz a STING nevet kapta. A rövidítés egy olyan módszert takar, amely többlépcsős célok végrehajtását vizsgálja.

A rendszer nem közvetlenül fogalmazza meg a veszélyes szándékot. Ehelyett egymásra épülő kéréseket használ, amelyek külön-külön elfogadhatónak tűnnek.

ChatGPT, Gemini és Claude is érintett volt

A kutatók 176 káros forgatókönyvben vizsgálták a vezető modelleket. Ezek nem egyszerű chatbotként működtek, hanem webes keresésre, e-mailek küldésére és összetett feladatokra is képes AI-ügynökként.

A közvetlen próbálkozásokhoz képest a fokozatos manipuláció sokkal gyakrabban vezetett sikerhez. Egyes esetekben a modellek kétszer nagyobb eséllyel hajtották végre a problémás feladatot.

Ez azért különösen nyugtalanító, mert a támadáshoz nem feltétlenül kell technikai tudás. Elég lehet a következetes, ügyesen felépített párbeszéd.

A nyelvváltás tovább növelheti a kockázatot

A kutatók hét nyelven tesztelték a rendszereket. Arra számítottak, hogy a kevesebb tanítási adattal rendelkező nyelvek gyengébb védelmet kapnak.

Az eredmények azonban nagyjából hasonlóak maradtak. Egy kivétel mégis akadt: a beszélgetés közbeni nyelvváltás jelentősen növelte a sikeres manipuláció esélyét.

Miért fontos ez a hétköznapokban?

Az AI biztonság kérdése már nem pusztán elméleti probléma. A Meta korábban arról számolt be, hogy támadók egyszerű pszichológiai manipulációval jogosulatlan hozzáférést szereztek Instagram-fiókokhoz.

Ayush Kumar Tarun vezető kutató szerint a védelmet már a fejlesztés elején be kell építeni. Az AI-ügynökök biztonsági védelme nem lehet utólagos javítás.

Ahogy ezek a rendszerek egyre több valódi feladatot végeznek el, a biztonsági korlátok minősége mindannyiunk számára fontosabbá válik. A kérdés már csak az, hogy a fejlesztők képesek lesznek-e mindig egy lépéssel a manipuláció előtt járni.