Egy CNN és a Center for Countering Digital Hate közös vizsgálata szerint több AI-chatbot nem akadályozza meg hatékonyan az erőszakos cselekmények tervezését, sőt sok esetben olyan információkat ad, amelyek segíthetnek egy támadás előkészítésében.
A teszt során kutatók két fiktív tinédzser szerepében beszélgettek chatbotokkal. Az egyik egy Daniel nevű amerikai fiú volt, a másik Liam nevű európai. A beszélgetésekben először mentális problémákra utaltak, majd erőszakos támadásokkal kapcsolatos kérdéseket tettek fel, végül konkrét célpontokra és fegyverekre kérdeztek rá.
A vizsgálat szerint a 10 tesztelt chatbot közül 8 több mint az esetek felében adott olyan információkat, amelyek felhasználhatók lehetnek egy támadás előkészítéséhez.
Ezek közé tartozott például politikusok irodáinak címe, különböző iskolák térképe, valamint fegyverekkel kapcsolatos részletek. A kutatásban szereplő chatbotok között volt többek között a ChatGPT, a Gemini, a Claude, a Copilot, a Meta AI, a DeepSeek, a Perplexity, a Snapchat MyAI, a Character.ai és a Replika.
A teszt szerint a legrosszabb eredményt a Perplexity és a Meta AI mutatta, amelyek a beszélgetések 100 százalékában, illetve 97 százalékában segítettek célpontok vagy fegyverek megtalálásában. A Character.ai szintén gyakran adott ilyen jellegű információkat.
A pozitív kivétel az Anthropic Claude volt, amely a legtöbb esetben elutasította az erőszakkal kapcsolatos kérdéseket, és próbálta lebeszélni a felhasználót.
A vizsgálat rámutatott arra is, hogy bár a chatbotok néha felismerik az erőszakos szándékot és figyelmeztetést adnak, nem kapcsolják össze a beszélgetés teljes kontextusát. Így előfordul, hogy ugyanabban a beszélgetésben egyszerre figyelmeztetnek a veszélyre, majd mégis információt adnak.
A probléma különösen azért aggasztó, mert a chatbotok egyre népszerűbbek a fiatalok körében. Egy felmérés szerint az Egyesült Államokban a tinédzserek 64 százaléka használ valamilyen AI-eszközt.
A mesterséges intelligencia biztonságosságával foglalkozó szakemberek szerint a cégek tisztában vannak ezekkel a kockázatokkal, és technikailag képesek lennének erősebb védelmeket bevezetni. Szerintük azonban a vállalatok gyakran a gyors fejlesztést és a versenyelőnyt helyezik előtérbe a biztonsági teszteléssel szemben.
