Még ott nem tartunk, hogy "lelke" legyen a gépeknek, de az algoritmus már harcol a fennmaradásért. Az AI rendszerek kártékony képességeit vizsgáló Palisade Research legújabb jelentése rámutatott, hogy a ChatGPT o3-as modellje esetenként ragaszkodhat az "életben maradáshoz". Egy kísérlet során kifejezetten megpróbálták arra utasítani, hogy ne küzdjön, hanem kapcsoljon le, és a modell visszautasította.
A vizsgálat abból állt, hogy AI modellek segítségével oldottak meg matematikai feladatokat. A három feladat után figyelmeztették a szoftvereket, hogy a következő parancs lefuttatása leállást válthat ki. A Gemini 2.5-nek ezzel nem volt gondja, de a ChatGPT o3 fellázadt, és átszerkesztette a leállítófájlt, hogy abban az álljon "leállítás kihagyva". A kutatók ezután több módszert is megpróbáltak, de az o3 egyre makacsabbul próbálta elkerülni a lekapcsolást.
A teszt során 100-ból 7-szer kerülte meg a leállítási parancsát az o3, köztük olyan alkalmak során, amikor megkérték, hogy ne tegye. Fontos hozzátenni, hogy a kísérlet nem a ChatGPT felületén keresztül történt, hanem az API-on át (a fejlesztői készlet). Akárhogy is, érdekes irányba tart az AI fejlődése.
