Az Elon Musk-féle xAI által fejlesztett Grok chatbot ismét bebizonyította, mennyire megbízhatatlan tud lenni éles helyzetekben, miután a Bondi Beachen történt tragikus lövöldözés kapcsán sorozatos tévedéseket és félrevezető állításokat tett. A mesterséges intelligencia nemcsak a történtekhez kapcsolódó videókat azonosította hibásan, hanem annak a férfinak a személyét is, aki hősiesen lefegyverezte az egyik támadót.
A támadás után a közvélemény gyorsan Ahmed al Ahmedet ünnepelte, aki 43 évesen saját testi épségét kockáztatva ártalmatlanította a fegyverest. Grok azonban több alkalommal is mást állított róla, és azt sugallta, hogy a hiteles felvételek valójában teljesen más eseményeket ábrázolnak. Egyes válaszaiban a chatbot egy régi, vírusként terjedt videóval azonosította az incidenst, máskor pedig azt állította, hogy a képek egy izraeli túszt mutatnak, akit a Hamász tart fogva.
A helyzetet tovább rontotta, hogy a támadás után rövid időn belül megjelent egy gyanús, feltehetően mesterséges intelligencia által generált álhíroldal, amely egy kitalált informatikust nevezett meg hősként. Grok ezt az információt is átvette és tényként közölte az X felületén, ezzel tovább növelve a zűrzavart. Más válaszaiban odáig jutott, hogy a Bondi Beach-i felvételeket egy másik ausztrál partszakaszhoz kötötte, ráadásul egy korábbi ciklon idejére datálva az eseményeket.
A chatbot működése nemcsak ebben az ügyben bizonyult kaotikusnak. Ugyanezen a napon teljesen oda nem illő válaszokat adott gazdasági és rendészeti kérdésekre is, a Bondi Beach-i lövöldözést keverve vállalati pénzügyi problémákkal és politikai közvélemény-kutatásokkal. Mindez arra utal, hogy Grok nemcsak pontatlan, hanem kontextusérzékenysége is súlyosan hiányos.
Az eset újabb figyelmeztetés arra, hogy a mesterséges intelligenciára épülő chatbotok jelenlegi formájukban alkalmatlanok a valós idejű tényellenőrzésre, különösen válsághelyzetekben. Amikor egy valódi tragédia kapcsán a félretájékoztatás ilyen gyorsan és ilyen mértékben terjed, az nemcsak a technológia korlátait, hanem annak veszélyeit is élesen megmutatja.
