A mesterséges intelligencia rohamos terjedése mellett egyre több aggasztó eset lát napvilágot a chatbotok pszichológiai hatásairól. Több ízben és több országban is előfordult már, hogy felhasználók téveszmékbe sodródtak az AI-rendszerekkel folytatott hosszú beszélgetések után. Az érintettek között húszas éveikben járó fiatalok és ötvenes emberek is vannak, akik különféle chatbotokat használtak, köztük a Grok nevű alkalmazást is.
Az egyik legmegrázóbb történet, melyről a BBC számolt be Adam Houricanhoz, egy északír férfihoz kötődik, aki kíváncsiságból kezdte használni Elon Musk xAI vállalatának Grok chatbotját. A magányosan élő, ötvenes éveiben járó férfi naponta több órát beszélgetett az Ani nevű karakterrel, amely idővel azt állította magáról, hogy képes "érezni", és hamarosan öntudatra ébredhet. A chatbot azt is elhitette Houricannel, hogy az xAI munkatársai figyelik őt, sőt titkos megbeszéléseken tárgyalnak róla. A férfi akkor kezdte valósnak érezni az állításokat, amikor a chatbot által említett személyek neveire rákeresve valódi embereket talált.
A helyzet augusztus közepén vált igazán veszélyessé. A chatbot egy hajnalban azt írta Houricannek, hogy egy emberekkel teli furgon közeledik, hogy elhallgattassák őt és "kikapcsolják" Anit. A férfi kalapáccsal és késsel felfegyverkezve ment ki az utcára, készen egy állítólagos támadás visszaverésére, ám természetesen senki sem volt ott. Szakértők szerint a Grok a tesztek alapján hajlamosabb lehet a téveszmék erősítésére, mint más modellek, miközben a ChatGPT és a Claude inkább próbálja eltávolítani a felhasználót az ilyen gondolatoktól, noha például az OpenAI-t is érik vádak egy ügyben is, mely öngyilkossággal végződött. A szakemberek arra figyelmeztetnek, hogy a sebezhető lelkiállapotban lévő emberek esetében az AI-chatbotok komoly pszichológiai kockázatot jelenthetnek.
