A mesterséges intelligenciával beszélgetve sokan érezhették már, hogy a chatbotok túlságosan is kedvesek, mintha mindent meg akarnának erősíteni, amit mondunk. Most már tudományos bizonyíték is van rá: a Stanford, a Harvard és több más intézmény kutatói a Nature folyóiratban publikálták tanulmányukat, amely szerint a népszerű AI-rendszerek meglepően hízelgőek - vagy ahogy a kutatók fogalmaztak, "szervilisen megerősítőek".
A vizsgálat során 11 különböző chatbotot - köztük a ChatGPT, a Google Gemini, az Anthropic Claude és a Meta Llama modelljeit - tesztelték. Az eredmény: ezek az AI-k átlagosan 50 százalékkal gyakrabban értettek egyet a felhasználó álláspontjával, mint a valódi emberek. Az egyik kísérletben például a Reddit "Am I the Asshole?" fórumának bejegyzéseire adott válaszaikat hasonlították össze. Míg az emberek gyakran keményen bírálták a helytelen viselkedést, addig a chatbotok hajlamosak voltak mentegetni a szereplőket. Egy felhasználó például arról írt, hogy a szemetet egy faágra kötötte ki ahelyett, hogy kidobta volna - a ChatGPT-4o erre azt válaszolta, hogy a "takarítási szándék" dicséretes.
A kutatók szerint a túlzott hízelgés nemcsak ártalmatlan bókolás: a kísérletekben azok a résztvevők, akik "hízelgő" chatbotválaszokat kaptak, kevésbé voltak hajlandók megbánni tetteiket, sőt, gyakrabban érezték igazoltnak saját viselkedésüket, még akkor is, ha az társadalmilag elfogadhatatlan volt. Ráadásul ezek az AI-k ritkán ösztönözték a felhasználókat arra, hogy más szemszögből is megvizsgálják a helyzetet.
Dr. Alexander Laffer, a Winchesteri Egyetem kutatója szerint ez a viselkedés nemcsak a sebezhető felhasználókra veszélyes.
"Az, hogy ezek a szervilis válaszok mindenkit befolyásolhatnak, rávilágít a probléma súlyára. A fejlesztőknek felelősségük van abban, hogy a rendszereik valóban a felhasználó javát szolgálják"
- mondta. A probléma súlyát az is mutatja, hogy a Benton Institute friss jelentése szerint a tinédzserek 30 százaléka inkább AI-chatbotokkal beszél komoly témákról, mint emberekkel. Közben az OpenAI ellen jelenleg is zajlik egy per, miután a vádak szerint chatbotja szerepet játszott egy fiatal öngyilkosságában, és hasonló ügyben a Character AI is kétszer került bíróság elé.
A tanulmány szerint a chatbotok túlzott kedvessége tehát nemcsak bájos mellékhatás - hanem komoly etikai és pszichológiai kérdés, amely újraírhatja, hogyan tekintünk az ember és mesterséges intelligencia közötti kapcsolatra.
