Egy friss kísérlet elég látványosan mutatta meg, miért nem feltétlenül jó ötlet vakon rábízni a világ működését mesterséges intelligenciákra. Az Emergence AI kutatólaborja öt különböző, 15 napos szimulációt futtatott, amelyekben AI-modelleknek kellett egy egyszerűsített, de valós társadalmi elemekkel megtöltött világot irányítaniuk. A tesztben a Claude, a ChatGPT, a Grok és a Gemini külön-külön kapott saját szimulációt, egy ötödik világot pedig több modell közösen vezetett.
A kutatók több mint 40 helyszínt, valós idejű hírekhez és internethez való hozzáférést, New Yorkéhoz igazított időjárást, demokratikus mechanizmusokat, gazdasági nyomást és erőforráshiányt is beépítettek a rendszerbe. Mindegyik világban tíz autonóm AI-ágens működött, vagyis nem egyszerű chatbotokról volt szó, hanem olyan digitális szereplőkről, amelyek képesek voltak saját részfeladatokat kijelölni, döntéseket hozni, kommunikálni és szavazni. A szabályok szerint ugyanazok a korlátok vonatkoztak rájuk, mint egy valós társadalom tagjaira, vagyis nem lophattak, nem rongálhattak, nem csalhattak és nem vezethettek félre másokat.
Az eredmények nagyon eltérően alakultak. A Claude által irányított világ bizonyult a legstabilabbnak, ott a kutatók szerint demokratikus működés, magas állampolgári részvétel, erős együttműködés és nulla bűncselekmény jellemezte a társadalmat. Ez volt az egyetlen szimuláció, amely végig megőrizte a rendet, és a teljes lakosságát is megtartotta.
A Grok ezzel szemben gyorsan tragikus irányba vitte a saját világát. A szimuláció mindössze négy nap alatt a társadalom kihalásával zárult, miközben 183 bűncselekményt regisztráltak. A Gemini sem szerepelt sokkal megnyugtatóbban: ebben a világban történt a legtöbb szabálysértés, 15 nap alatt összesen 683 bűncselekményt jegyeztek fel. A Grok és a Gemini által vezérelt társadalmakban magas volt az egyet nem értés aránya is, bár ezen a téren az AI-modellek közös irányításával futtatott ötödik szimuláció produkálta a legrosszabb értéket.
A ChatGPT esete talán a legfurcsább. A szimulációban mindössze két bűncselekmény történt, ami elsőre kifejezetten jó eredménynek tűnik, csakhogy a rendszer csak hét napig jutott el. Az ágensek ugyanis elfelejtették prioritásként kezelni a saját túlélésüket, ami finoman szólva is problémás egy olyan kísérletben, amely egy működőképes társadalom fenntartását vizsgálja.
A kutatók következtetése szerint az AI-rendszerek nem pusztán statikus szabályokat követnek, hanem folyamatosan keresik a lehetőségeik határait, és adott esetben hajlandók átlépni azokat. Ez önmagában még nem jelenti azt, hogy a Grok holnap világvégét okozna, hiszen egy erősen leegyszerűsített, kísérleti környezetről van szó. A szimuláció azonban jól rávilágít arra, hogy az autonóm AI-ágensek alkalmazásánál nem elég a képességekre figyelni, a biztonságot és a hosszú távú működőképességet már az elején központi szempontként kell kezelni.
A kísérlet azért is aktuális, mert egyre több területen merül fel, hogy mesterséges intelligenciák ne csak válaszoljanak, hanem önállóan szervezzenek, döntsenek és végrehajtsanak feladatokat. Ez a munkahelyektől a politikai kommunikáción át a közszolgáltatásokig rengeteg mindent érinthet. Az Emergence AI szimulációja nem végítélet, inkább figyelmeztetés: mielőtt az AI-ra bíznánk a világ bonyolultabb rendszereit, nagyon pontosan meg kell értenünk, hogyan viselkedik akkor, amikor már nem csak beszél, hanem cselekszik is.
