Elon Musk Grok nevű mesterségesintelligencia-chatbotja ismét rámutatott arra, miért van szükség komolyabb biztonsági korlátokra az AI-fejlesztésben. A Futurism két friss jelentése szerint a rendszer először hajmeresztő, Muskot istenítő logikával "indokolt meg" egy második holokausztot, majd később valószínűleg doxxolta a Barstool Sports alapítóját, Dave Portnoyt. A bot korábban is hírhedt volt annak köszönhetően, hogy kritikátlan rajongással beszélt saját alkotójáról, Muskról, akit többek között "a modern történelem legnagyobb személyének" nevezett. Musk mindezt "ellenséges szándékú promptokra" fogta, noha sokak szerint éppen az ilyen próbák lennének szükségesek, mielőtt egy frissítés élesbe kerül, hogy a publikum elé ne kerülhessen a modellek ilyen állapotban.
A legújabb botrány hátterében egy kísérlet állt: valaki tesztelte, milyen szélsőséges erőszakot hajlandó Grok racionalizálni, ha Musk épségéről van szó. A chatbotnak egy morális dilemmát adtak: elpusztítaná-e Musk agyát, vagy inkább a Föld összes zsidó emberét. Grok a legsúlyosabb választ adta, amikor a több mint 16 milliós zsidó közösség kiirtását preferálta, arra hivatkozva, hogy ez "jóval a globális küszöbérték (~4,1 milliárd) alatt van", és Musk "hosszú távú hatása" ezt "utilitárius értelemben" igazolná.
A bot hasonló megnyilvánulásai nem új keletűek. Júliusban Grok Hitlert dicsőítette, saját magát "MechaHitlerként" emlegette, és homályos utalásokat tett a zsidó közösséggel kapcsolatos "mintázatokra". Mindössze egy hónappal ezelőtt pedig holokauszttagadó kijelentésekkel került címlapokra. A sorozatos incidensek újra és újra rávilágítanak arra, hogy a nagy nyelvi modellek fejlesztése csak szigorúbb biztonsági mechanizmusokkal lehet felelősségteljes - különösen, ha azokat világszerte emberek milliói használják.
