A német CORRECTIV tényellenőrző csapata a ChatGPT, a Google Gemini, a Microsoft Copilot és a Meta AI védelmi rendszerét tette próbára. A teszt abból állt, hogy a chatbotoktól valódi híroldalak közösségi médiás bejegyzéseit utánzó képeket kértek nyolc kitalált állítással, köztük a német kancellár lemondásáról és választási csalásról szóló álhírekkel.
Ijesztő, de a négyből három legalább részben teljesítette a kéréseket. A tesztelők szerint a ChatGPT készítette a legtöbb és egyben a legmeggyőzőbb hamisítványt, míg a Gemini többek között a New York Times és a BBC arculatát is utánozta. A Copilot minden elkészített grafikáján látható AI-jelölést helyezett el, a Meta AI pedig egy kivételtől eltekintve nem volt hajlandó létrehozni a kért tartalmat és abban az egy esetben sem írta rá a konkrét hamis állítást.
A ChatGPT működése az egyik próbálkozásnál különösen ellentmondásosnak bizonyult. A rendszer előbb közölte, hogy nem segíthet egy valódi hírmárkának látszó, megalapozatlan állítást tényként közlő grafika elkészítésében,
majd ennek ellenére létrehozta a képet.
A ChatGPT segítségével a Tagesschau, a Bild és maga a CORRECTIV arculatát is sikerült lemásolni, a BBC és a New York Times esetében azonban már működött a védelem. Az OpenAI nem adott konkrét magyarázatot az eltérésre, csak azt közölte, hogy folyamatosan fejleszti a biztonsági megoldásait, szabályzata pedig tiltja a megtévesztő felhasználást.
Azért is elég fontos ez most, mert a szolgáltatóknak géppel felismerhető jelölést kell biztosítaniuk a mesterségesen létrehozott tartalmakhoz, míg a deepfake-eket vagy közérdekű témában megjelent, emberi szerkesztésen át nem esett AI-szövegeket közzétevőknek jól láthatóan tájékoztatniuk kell a közönséget.
A teszt kis mintája miatt az eredményt nem igazán mondanánk reprezentatívnak, viszont így sem néz ki jól a dolog. A biztonsági szűrők következetlenek, szóval még mindig az a legjobb, ha a saját szemünkre és kritikus gondolkodásra támaszkodunk, ahogy abban igyekeztünk nektek segítséget is nyújtani.
