Az amerikai hadsereg idén tavasszal egy kínai hajó feltartóztatására készült, miután egy hírszerzési jelentés azt állította, hogy nukleáris fegyverprogramhoz szükséges alkatrészeket szállít.
A CNN négy, az ügyet ismerő forrásra hivatkozó beszámolója szerint azonban az információt egy chatbot hibás következtetése alapján állították össze.
Két forrás szerint fegyveres amerikai katonák készültek a hajó fedélzetére lépni, és a repülőgépek is felszálltak már, a műveletet pedig azután állították le, hogy az illetékesek alaposabban megvizsgálták a jelentést, és felismerték a tévedést.
A hibás jelentést egy különleges műveleti parancsnokság elemzője készítette. Nyílt forrású adatokat és titkos hírszerzési információkat dolgoztatott fel egy chatbottal, ami valahogy tévesen azonosította a rakományt.
Ezután ismét az AI segítségét kérte, hogy az eredményből szabványos hírszerzési jelentést formázzon, majd továbbküldte azt a katonai döntéshozóknak.
Az nem derült ki, hogy melyik chatbotot használta, de az amerikai hadsereg egyre több feladatra vezet be AI-eszközöket, és nem túl beszédesek azzal kapcsolatban, hogy melyikeket. Korábban például egy Victor nevű, katonai tapasztalatokra épülő chatbot fejlesztéséről is hallottunk híreket.
Jake Steckler, a GovAI kutatója és az amerikai hadsereg egykori tisztje szerint
"fontos, hogy a katonák megértsék a nagy nyelvi modellekben rejlő bizonytalanságot."
Steckler szerint itt különösen fontos a biztonság, de nem arról van szó, hogy nem szabad mesterséges intelligenciát használni. Szerinte "ezek az eszközök megfelelő körülmények között és megfelelő biztosítékok mellett hasznosak lehetnek", viszont, ha minden más elé helyezik a bevezetés gyorsaságát, az olyan incidensekhez vezethet, amelyek megingatják a katonák bizalmát, és végül éppen a technológia elterjedését lassítják.
Forrás: CNN
