Néhány nappal a GPT-6 Astra bemutatása után az OpenAI vezető kutatója is a fejlesztési verseny veszélyeiről beszélt, és szerinte az
egyre ügyesebb mesterséges intelligencia következményeire senki sincs megfelelően felkészülve.
A kutató szerint a mélytanulás továbbra is nagyrészt kísérleti tudomány, a rendszerek működését nem értjük teljes egészében, növekvő képességeik pedig még nehezebbé teszik viselkedésük értelmezését.
Pachocki különösen az önfejlesztés miatt aggódik, amikor az AI egyre nagyobb szerepet vállal saját következő változatainak létrehozásában. Szerinte ezzel párhuzamosan erősíteni kell az emberi értékekhez való igazodást, az ellenőrzést és az emberi részvételt.
Érdemes elolvasni az egész írást, mert rengeteg érdekes és ijesztő dologról beszél a szakértő.
Pachocki közös biztonsági követelményeket sürget, amelyek betartását független ellenőrök, hatóságok vagy nemzetközi szervezetek felügyelhetnék. Jelenleg egyetlen laboratórium sem oldotta meg kellően a biztonságos működés és felügyelet kérdését ahhoz, hogy még sokáig felelősen folytathassa a fejlesztést ezzel a sebességgel.
Az OpenAI szükség esetén önállóan is visszafogná a rendszerek további skálázását, de Pachocki szélesebb nemzetközi együttműködést is szükségesnek tart.
Az Anthropictól most távozó kutató is nagyon hasonló dolgokat mondott, viszont a napokban kiderült, hogy - senki meglepetésére - Donald Trump nem osztja ezt a véleményt. Szerintünk azért, mert nem érti.
