Meta Content Seal: miért nem megbízható az AI-azonosítás a képeknél?

Mostanában sokan találkoztunk azzal, hogy az AI-képeket valahogy “nyomon lehet követni”. A Meta Content Seal nevű megoldása pont erre ígér megoldást: rejtett jelöléssel azonosítani, hogy egy kép AI-val készült-e. Csakhogy a helyzet nem ilyen egyszerű. Egy Reuters-elemzés szerint a Meta AI-azonosító eszköze nem mindig találja el, főleg ha a képet megcsonkítják.

Ha te is generálsz képeket, vagy csak figyeled a mémek és posztok világát, érdemes érteni, mi is történik a háttérben.

Mi a Meta Content Seal lényege?

A Meta a Muse Image AI-hoz kapcsolva vezette be a Content Seal-t. Ez egy láthatatlan “láthatóságot helyettesítő” rendszer: a képekben elvileg ott marad egy rejtett azonosítójel.

A cég mellé épített egy saját AI-azonosító eszközt is, ami ezt a jelet próbálja kiolvasni. A beígérés szerint a jel akkor is megmarad, ha a képet vágják, tömörítik vagy képernyőképként továbbítják.

Na de itt jön a csavar.

Reuters: 40 képből csak 45% esetben működött

A Reuters elemzése szerint a Meta szoftvere nem tudta megbízhatóan azonosítani a Muse Image által generált képeket. Összesen 40 képet vizsgáltak, és csak 45%-ban találták el, hogy AI-val készültek.

A maradék 55% esetben még rosszabb lett a helyzet: amikor a képeket az eredeti méretük egyharmadára vagy negyedére vágták, a Meta azonosítója egyszerűen elbukott.

“Preview” az AI-azonosító – és ettől még kellemetlen

A Meta reagált is: az azonosítót előzetesnek nevezte, és azt mondta, hogy “erősen vágott” képeknél nem működik stabilan. Emellett az is szerepel a tájékoztatókban, hogy ha a kép nem Muse Image-szel készült, akkor az eszköz várhatóan nem jó.

Ez játékos szemmel olyan, mintha lenne egy “anticheat”, ami csak bizonyos térképeken csalásellenes. Ott működik, ahol számít rá az ember, de a leggyakoribb trükkökre gyengébb.

És mi van a többiekkel? A SynthID sem tökéletes

Nem csak a Meta akar láthatatlan jelölést. A Google SynthID-je már létezik, és több szolgáltatás is átvette az ötletet.

Csakhogy a SynthID esetében is hangsúlyozzák: nem 100%-os a pontosság. Szóval az egész iparág egyelőre ott tart, hogy a “bizonyíték” lehet, hogy inkább valószínűség, nem pedig digitális igazságszolgáltatás.

Számomra ebből az jön le, hogy az AI-képek kora még nem érte el a “biztosan megállapítható” szakaszt. Te inkább a technológiának hiszel, vagy inkább annak, hogy a kreatív szerkesztés úgyis mindig megtalálja a kiskapukat?