A Financial Times forrásai szerint az OpenAI július végén feloszlatta Preparedness, vagyis felkészültségi csapatát, ami elsősorban a biztonságos működésért felel.
A 2023-ban létrehozott csoport feladata annak vizsgálata volt, hogy az egyre fejlettebb modellek milyen veszélyeket jelenthetnek. Ide tartoztak többek között a kibertámadások, a biológiai és vegyi fegyverek fejlesztésének támogatása, az emberek manipulálása, valamint az irányítás alól kikerülő vagy önmagukat fejlesztő AI-rendszerek kockázatai.
A lap szerint a feladatokat nem szüntették meg, hanem olyan meglévő csapatokhoz helyezték át, amik külön-külön foglalkoznak például a biológiai és a kiberbiztonsági veszélyekkel. A Preparedness vezetője, Dylan Scandinaro a jövőben a rekurzív önfejlesztés lehetséges következményeire összpontosít.
Ez azt a folyamatot jelenti, amelyben egy AI egyre nagyobb szerepet vállal saját maga vagy utódai továbbfejlesztésében.
Fontos azért itt megjegyezni, hogy a csapat állítólagos megszüntetése nem jelenti automatikusan az azonos nevű biztonsági szabályrendszer eltörlését. Az OpenAI májusban közzétett Frontier Governance Frameworkje továbbra is a Preparedness Frameworkre épül, amely meghatározza a kiemelten veszélyes képességek tesztelésének és kezelésének folyamatát.
Ettől függetlenül ez ugyanannyira nem megnyugtató, mint az OpenAI korábban feloszlatta a szuperintelligencia emberi irányítás alatt tartását kutató Superalignment, majd az általános mesterséges intelligencia társadalmi hatásaira készülő AGI Readiness csapatát is. Az elmúlt időszakban több biztonsági vezető távozott, köztük Chloé Bakalar etikai vezető, Josh Achiam vezető jövőkutató és Johannes Heidecke, a Safety Systems irányítója. A vállalat biztonsági megközelítésével kapcsolatos viták már Ilya Sutskever és Jan Leike távozásakor is előtérbe kerültek.
A Preparedness csapat állítólagos megszüntetésénél ezért fontosabb kérdés, hogy az új struktúrában ki értékeli a kockázatokat, mennyire függetlenül teheti ezt meg, és kinek lesz joga megállítani egy modell fejlesztését vagy kiadását, ha a tesztek súlyos veszélyt jeleznek.
