Dél-Afrika kénytelen volt visszavonni a nemzeti mesterségesintelligencia-politikájának első tervezetét, miután kiderült, hogy a dokumentum több olyan tudományos hivatkozást is tartalmazott, amelyek valójában nem léteznek. A történet azért különösen kellemetlen, mert a tervezet éppen azt a célt szolgálta volna, hogy az ország átgondolt keretet adjon az AI fejlesztésének és szabályozásának, végül azonban az AI egyik legismertebb problémája, a magabiztosan előadott kitaláció tette hiteltelenné.
A dokumentumot áprilisban bocsátották társadalmi egyeztetésre, és több új intézmény létrehozását is felvázolta, köztük egy nemzeti AI-bizottságot, egy etikai testületet és egy szabályozó hatóságot. A News24 vizsgálata szerint azonban a tervezet 67 hivatkozásából legalább hat hamis volt: valós tudományos folyóiratokra utaltak, de a megjelölt cikkek nem léteztek. A lap szerint az érintett folyóiratok szerkesztői külön is megerősítették, hogy a hivatkozott tanulmányok nem valósak.
Solly Malatsi kommunikációs és digitális technológiai miniszter végül visszavonta a tervezetet, és elismerte, hogy a legvalószínűbb magyarázat szerint AI által generált hivatkozások kerültek az anyagba megfelelő ellenőrzés nélkül. A miniszter szerint ez nem egyszerű technikai hiba, hanem olyan mulasztás, amely aláásta a dokumentum hitelességét és szakmai integritását. Azt is jelezte, hogy következményei lesznek annak, ami történt, de azt nem közölte, mikor kerülhet új változat a nyilvánosság elé.
Az eset elég pontosan megmutatja, miért veszélyes az AI-ra úgy tekinteni, mint egy önmagában megbízható szakmai gyorsítóra. Egy nagy nyelvi modell nem feltétlenül jelzi, ha nem tud valamit, hanem sokszor olyan választ ad, amely formailag meggyőző, nyelvileg rendezett, és első pillantásra teljesen hitelesnek tűnik. A hamis hivatkozások éppen ezért különösen alattomosak: nem feltűnő butaságként jelennek meg, hanem úgy, mintha valódi kutatói munka állna mögöttük. A The Next Web összefoglalója szerint a dél-afrikai tervezet is olyan forrásokat sorolt fel, amelyek ránézésre illeszkedtek a szöveghez, csak éppen nem léteztek.
A bukás azért is kellemetlen, mert Dél-Afrika a dokumentummal éppen azt akarta jelezni, hogy vezető szerepre törekszik az afrikai AI-fejlesztésben, miközben az új technológia etikai, társadalmi és gazdasági következményeit is kezelni próbálja. A Reuters szerint a tervezet adókedvezményekkel, támogatásokkal és magánszektorbeli együttműködésekkel is ösztönözte volna az AI-innovációt. Ehhez képest most az első nagy tanulság az lett, hogy még egy AI-szabályozásról szóló kormányzati anyag sem úszhatja meg az emberi ellenőrzést.
Malatsi maga is erre futtatta ki a magyarázatát: szerinte az ügy bizonyítja, hogy a mesterséges intelligencia használata mellett elengedhetetlen az éber emberi felügyelet. Ez a mondat most nem egy óvatos technológiai közhelynek hangzik, hanem egy konkrét kudarc tanulságának. Dél-Afrika újra kiadhatja majd a javított AI-politikát, de az első változat emléke alighanem megmarad: ritkán kapunk ennyire tiszta példát arra, milyen kínos, amikor egy ország AI-stratégiáját éppen az AI hallucinációi buktatják meg.
