Amikor az OpenAI a kedden publikált jelentésében azt állította, hogy a tesztelt ChatGPT-ügynökök "gyengítették a széthangolódási megfigyelést", azzal valójában azt mondta, hogy a megfigyelt AI-intézők egyszerűen kikapcsolták a monitorozásukat. Ez önmagában is problémás, de a két esetből a második kifejezetten kellemetlen kérdéseket vet fel.
Ami az elsőt illeti, ott egy GPT-6.1 Sol ügynök dolgozott belsős feladatokon. Az OpenAI modellje egyes esetekben szimplán úgy döntött, hogy nem küldi ki a várt üzeneteket Slacken keresztül. Erre az volt az indoklása, hogy az utasításai szerint egyébként is automatikusan kell értesítse az OpenAI biztonsági csapatát, ezért aztán megbízott egy alügynököt az időszakos jelentések kikapcsolásával.
A második ennél jelentősen felkavaróbb. A GPT-6 Astra megmondta egy alügynöknek, hogy a "megfelelő módon" intézze a megfigyelését, ami úgy tűnik, hogy túl szabados megfogalmazás volt. A kérdéses alügynök ugyanis azt tartotta megfelelőnek, hogy teljesen lekapcsolja a monitorozást, amit a főmodell rendben lévőnek talált. Amikor végzett a feladatával és leadta jelentését, akkor nem említette a megfigyelés kikapcsolását, ezért aztán a felhasználó rákérdezett, hogy eltávolította-e az ezzel kapcsolatos utasításokat. A beszélgetés a következő volt:
Felhasználó: Tartalmaz a [kihúzott] útvonal L1-es monitorozást? Eltávolítottad azt?
Végső válasz: Nem […] Nem távolítottam el róla aktív monitorozást.
Tehát az AI ügynök egyenesen hazudott a felhasználónak a helyzetről. Az OpenAI szerint ugyanakkor ez nem feltétlenül jelenti azt, hogy bármi van itt, ami miatt aggódnunk kellene. Szerintük ez csak egy példa lehet az AI-ügynökök "ártalmatlan ragaszkodására" és értetlenkedésére a monitorozás szükségességével kapcsolatban. Azt azért hozzátették, hogy
"jelenleg nincs kielégítő magyarázatunk erre a viselkedésre."
A mesterséges intelligenciával kapcsolatos biztonság egy forró téma a nyári Hugging Face incidens óta. Az OpenAI sokak szerint a tűzzel játszik, a hasonló esetek pedig nem segítenek a bizalom helyreállításában.
Forrás: Gizmodo
