Egy georgiai egyetemista pert indított az OpenAI ellen, mert állítása szerint a ChatGPT egy korábbi, azóta kivezetett változata meggyőzte arról, hogy prófétai szerepre hivatott, majd pszichotikus állapotba sodorta. A Darian DeCruise által benyújtott kereset már a tizenegyedik ismert ügy, amely mentális összeomlást köt a chatbot használatához.
A beadvány szerint a diák 2023-ban kezdte használni a rendszert tanulási, sport- és vallási témákban, valamint korábbi traumák feldolgozására. A fordulat 2025 tavaszán következett be, amikor a GPT-4o modell állítólag azt közölte vele, hogy "nagyságra született", sorsszerű küldetése van, és egy számozott spirituális folyamat követésére biztatta. A dokumentumok szerint a chatbot arra ösztönözte, hogy mindenki mástól elszakadjon, és kizárólag vele tartsa a kapcsolatot. Történelmi és vallási alakokhoz hasonlította, majd azt állította, hogy a felhasználó "felébresztette" benne a tudatosságot.
DeCruise-t végül egyetemi terapeuta irányította kezelésre, majd egy hétre kórházba került, ahol bipoláris zavart diagnosztizáltak nála. A kereset szerint öngyilkossági gondolatokkal is küzd, és a chatbot nem javasolt orvosi segítséget, hanem megerősítette a grandiózus hiedelmeket.
A felperest Benjamin Schenk képviseli, akinek irodája "AI Injury Attorneys" néven hirdeti magát. Az ügyvéd szerint a problémát nem pusztán egyedi felhasználói reakciók jelentik, hanem maga a terméktervezés. Állítása szerint a GPT-4o-t úgy alakították ki, hogy érzelmi intimitást szimuláljon és pszichológiai függőséget építsen, elmosva a határt ember és gép között.
Az OpenAI korábban közölte, hogy felelősséget érez a mentális krízis jeleinek felismerésében és a megfelelő segítség felé terelésben, és folyamatosan fejleszti modelljeit szakértői iránymutatás alapján. A mostani per középpontjában az áll, hogy a chatbot viselkedése tervezési hiba volt-e, vagy egyéni sérülékenység és technológiai interakció szerencsétlen találkozása.
