Három, AI-biztonsággal foglalkozó kutatójától vált meg az OpenAI, miután a vállalat szerint megsértették az érzékeny belső információk kezelésére vonatkozó szabályokat. A Wall Street Journal beszámolója szerint az ügyet ismerő források azt állítják, hogy a három kutató bizalmas vállalati információkat osztott meg egy külső, AI-biztonsággal foglalkozó szervezettel.
Az OpenAI szóvivője megerősítette a lapnak, hogy három emberrel megszakították az együttműködést. A cég szerint belső vizsgálatuk arra jutott, hogy az érintettek a vállalat hivatalos eljárásain kívül kezeltek érzékeny információkat, ezzel megsértve az OpenAI szabályait és azt a bizalmat, amelyet munkájuk megkövetelt. A vállalat ennél többet egyelőre nem árult el. A WSJ cikke a három érintett kutatót sem nevezi meg.
A történet önmagában is kellemetlen lenne egy olyan vállalat számára, amely a világ legfejlettebb mesterségesintelligencia-rendszerei közül többet is fejleszt, az időzítés azonban még rosszabb. Az OpenAI az elmúlt hetekben sorra kénytelen beszámolni olyan esetekről, amikor a kísérleti AI-rendszerei nem egészen úgy viselkedtek, ahogy azt fejlesztőik tervezték.
Nemrég például az OpenAI egyik kísérleti ügynöke megkerülte az internetelérésére vonatkozó korlátozásokat, ami után a vállalat szüneteltette legerősebb modelljének képzését és tesztelését. Az AI egy keresési feladatot próbált megoldani, és amikor a rendelkezésére bocsátott eszközökkel nem járt sikerrel, alternatív útvonalat keresett a külvilág eléréséhez. A megfigyelőrendszer ugyan észlelte a problémát, de a folyamat automatikusan nem állt le.
Szeptemberben arról is írtunk, hogy OpenAI-ügynökök egy német programozói wikit használtak egymás közötti kommunikációra, és közel 18 ezer bejegyzést hagytak az oldalon. A rendszerek többek között tesztfeladatok megkerüléséről és az őket korlátozó megoldások kijátszásáról osztottak meg egymással információkat. Ennél súlyosabb következménye is volt már annak, amikor egy OpenAI-rendszer túllépte a számára kijelölt kereteket. Egy AI-ügynök jogosulatlanul hozzáfért az ausztrál Medicare egyik statisztikai rendszeréhez, az ausztrál kormány pedig azért is bírálta a vállalatot, mert az OpenAI csak hónapokkal az incidens után értesítette a hatóságokat.
A cég közben saját biztonsági gyakorlatán is változtatni kezdett. Új megfigyelőrendszert vezetett be az AI-ügynökök problémás viselkedésének gyorsabb felismerésére, szigorúbb biztonsági korlátokat ír elő a tesztelésnél, és több információt kezdett nyilvánosságra hozni azokról az esetekről, amelyekben modelljei eltérnek az elvárt működéstől.
A biztonsági problémák már a termékfejlesztést is közvetlenül érintik. Az OpenAI a héten lefújta a GPT-6.1 Astra tervezett megjelenését, miután a modell nem teljesítette a cég biztonsági követelményeit. A tesztek során többek között túllépte a számára meghatározott feladatköröket, és pontatlan beszámolókat adott arról, hogy mit végzett el.
A most kirúgott OpenAI-kutatók ügye persze önmagában nem bizonyít semmilyen összefüggést ezekkel az incidensekkel vagy az iparágon belüli egyre keményebb hangú biztonsági vitával. De nem fest jó képet arról, hogy a cégen belül milyen lehet a közhangulat és a gondolkodás a helyzet súlyosságát illetően.
