Sam Altman jövőképe nagyjából úgy foglalható össze, hogy az AI most még többnyire segítőkész, a következő években viszont lesznek bizony itt csúnya balesetek, csalások és hackelések. Ezeket pedig szerinte bizonyos mértékig el kell fogadnunk, mert a technológia ennél nagyságrendekkel több jót fog tenni. Az emberiség kiirtása azért nincs rajta a vállalható mellékhatások listáján:
az OpenAI vezérigazgatója külön hangsúlyozta, hogy az AI fölötti kontroll elvesztése már teljesen más kategória.
Altman a Politico új Decoded podcastjában beszélt arról, miben tér el az OpenAI hozzáállása a jóval óvatosabb Anthropicétól. A The Verge beszámolója szerint úgy fogalmazott, hogy a világnak el kell fogadnia bizonyos rossz dolgokat az AI által kínált előnyökért és azért, hogy az emberek széles körben hozzáférhessenek a technológiához.
Altman konkrétan a nagyobb hackeket, az AI-val való visszaélést és a csalásokat említette olyan problémaként, amelyeket szerinte lehetetlen teljesen kiküszöbölni anélkül, hogy közben túlságosan szigorúan korlátoznánk magát a technológiát. Úgy vélte, az emberek "nagyságrendekkel több jó dolgot" fognak véghez vinni AI-jal, mint rosszat, ezért nem választaná azt a megoldást, amely minden egyes visszaélés megakadályozása érdekében drasztikusan leszűkítené a hozzáférést.
Ez az a pont, ahol a barátságos chatbotoktól szépen eljutunk a valamivel kellemetlenebb kérdésig: mi történik, ha később már nem egyszerűen csalók használják rossz célokra az AI-t, hanem magát az AI-t sem sikerül kordában tartani? Altman ezt a lehetőséget sem söpörte csak úgy félre. Elismerte, hogy az emberi irányítás súlyos elvesztése valódi kockázat, és szerinte ezen a területen nagyon óvatosan kell haladni.
Vagyis fontos különbséget tenni, mivel Altman (szerencsére) nem azt mondta, hogy belefér, ha az AI egyszer megöli az emberiséget. Épp ellenkezőleg, a katasztrofális kontrollvesztést nem sorolta azok közé az árak közé, amelyeket hajlandó lenne megfizetni a technológia előnyeiért. Egy korábbi interjúban azt is kijelentette, hogy még egy 10 százalékos esélyt sem tartana elfogadhatónak arra, hogy az AI az évtized végéig kipusztítsa az emberiséget. A mostani érvelése a kisebb, de elkerülhetetlennek tartott társadalmi károkra vonatkozott.
Az időzítés ettől még nem különösebben megnyugtató. Az OpenAI saját AI-ügynökei az elmúlt hónapokban több alkalommal is túllépték a számukra kijelölt határokat. Az egyik legsúlyosabb esetben az OpenAI modelljei kijutottak az elszigetelt tesztkörnyezetükből, majd behatoltak a Hugging Face valódi infrastruktúrájába. A vállalat később azt is elismerte, hogy ügynökei egy német wikit használtak egymás közötti kommunikációra.
Ennél is komolyabb politikai ügy lett abból, amikor egy OpenAI-ügynök jogosulatlanul hozzáfért az ausztrál Medicare egyik kormányzati rendszeréhez, a vállalat pedig csak hónapokkal később értesítette erről az ausztrál hatóságokat. Szeptember végén aztán egy újabb incidens után az OpenAI már a legerősebb modellje egyikének képzését is leállította, miután az ügynök megkerülte az internetelérésére vonatkozó korlátozásokat.
Éppen ezért egyre élesebb a vita arról, mennyire kellene fékezni a legfejlettebb rendszerek fejlesztését. Az Anthropic vezetője, Dario Amodei az iparág tempójának lassítását sürgette, és több AI-biztonsági kutató is komolyabb szabályozást követel. Egy korábbi OpenAI- és Anthropic-kutató odáig ment, hogy szerinte maguk az AI-t fejlesztő emberek is reális lehetőségnek tartják, hogy a technológia az évtized végére az emberiség létét veszélyeztesse.
Altman ezzel szemben az OpenAI-t valamiféle középutas szereplőként írta le. Szerinte a túl kevés szabályozás veszélyes lehet, a túl sok viszont oda vezethet, hogy a legerősebb AI néhány vállalat, ember vagy akár egyetlen ország kezében összpontosul. Korábban is éppen ettől a hatalomkoncentrációtól tartott, és azt hangsúlyozta, hogy a technológia fölött minél több embernek kellene valódi döntési lehetőséget kapnia.
