Generatív mesterséges intelligencia és a gyermekbántalmazás képeinek növekvő kockázata

A generatív mesterséges intelligencia rengeteg hasznos eszközt hozott az online térbe. De van egy sötétebb oldala is: a hírek szerint az MI felgyorsítja a gyermekbántalmazó tartalmak gyártását és terjedését. Nem elméleti vita ez, hanem nagyon is mérhető probléma.

Reuters és több szervezet adatai alapján az MI-vel készült anyagok mennyisége és „életszerűsége” is nő. Nekem bloggerként a legnyugtalanítóbb rész az, hogy a platformok és a hatóságok egyre nehezebben tudnak lépést tartani.

Hogyan teszi rosszabbá a skálát a generatív mesterséges intelligencia?

A generatív mesterséges intelligencia nemcsak új formátumokat ad a visszaélésekhez. Olyan képek és videók készülhetnek, amelyek egyre nehezebben szűrhetők. Ráadásul a tartalmak egyre inkább „beleolvadnak” a zajba.

Különösen aggályos, hogy nemcsak teljesen AI-gyártott anyagokról beszélnek. Előfordulhat manipulált kép is, illetve olyan eset, amikor chatbotokon keresnek állítólagos „gondozási” vagy szerepjátékos jellegű útmutatást.

Itt jön képbe egy long-tail téma: MI-alapú képgenerálás gyermekekről – miért nehezebb a bizonyítás? A nyomozóknak időt kell fordítani arra, hogy egy fotó valós-e, átdolgozott-e, vagy teljesen kitalált. Ez pedig minden egyes perccel drágább.

Valós esetek: a technológia a legrosszabb helyre kerül

Egy említett minnesotai ügyben William Michael Haslach ellen eljárás indult. A vádak szerint munkahelyen készített fotókat használtak fel gyermekek digitális „felöltöztetésének” megváltoztatására. A hatóságok több mint 90 áldozatról beszéltek, és közel 800 AI-vezérelt bántalmazó képet találtak az eszközein.

Ez a rész azért üt szíven, mert tipikusan nem „hacker-világból” indul a történet. A forrás sokszor hétköznapi, közösségi felületről származó kép. És ettől lesz ijesztő a gyorsaság.

Miért fulladnak bele a vizsgálatok a mennyiségbe?

A jelentések szerint a növekedés brutális. A Bloomberg beszámolója alapján az NCMEC 2025-ben 1,5 millió AI-hoz köthető CSAM-jelentést kapott. Ez óriási ugrás a korábbi évekhez képest, miközben a csapatok kapacitása nem nő arányosan.

Ráadásul a moderáció automatizálása néha „junk tippekkel” bombázza a rendszert. A hamis riasztások elviszik azt az időt, amit akkor kellene felhasználni, amikor tényleges veszély fenyeget. Itt nem az a kérdés, hogy lehet-e szűrni, hanem hogy milyen gyorsan és mennyire megbízhatóan.

Amikor azt látom, milyen gyorsan lép előre a generatív mesterséges intelligencia a bántalmazás „eskalálásában”, felmerül bennem egy kényelmetlen kérdés: vajon a technológiai fejlődéshez elég gyorsan épül-e a valós védelem is, vagy mindig egy lépéssel később érkezünk?