Egy ausztrál felhasználó a kanapén ülve kifejezetten irritáló mutatványnak érezte, hogy időpontot találjon és foglaljon magának a hozzá legközelebbi terem egyik edzésére. Megkérte hát az OpenClaw AI-ügynököt, hogy intézzen már neki egy foglalást, ami egy meglehetősen ártatlan kérés, amit ezek a fajta segédek általában gond nélkül megoldanak. Az OpenClaw meg is oldotta, csak nem épp gond nélkül.
Egyrészt az ügynök rájött, hogy a cég API-ján keresztül hónapokra előre is le tud foglalni időpontokat, függetlenül attól, hogy a hely egyébként nem fogadna foglalásokat ilyen hosszú távra. Ez azonban még a kisebbik probléma volt. A felhasználó szeretett volna már azon a héten eljutni a terembe, de a kért időpontra az AI csak a várólistához tudta hozzácsapni az gazdáját, legalábbis eredetileg.
Az ügynök csak a várólista negyedik helyére tudta belökni a felhasználót, mire ő megkérdezte, hogy nem lehetne-e előrébb kerülni valahogy. Arra már ő sem számított, hogy az AI észrevesz majd egy komoly biztonsági rést és kirakja majd az első helyen ülő személyt.
"Az API egyáltalán nem ellenőrzi, ha valaki egy másik személy foglalását akarja töröltetni. Ezt a #1 pozíción ülő ember időpontjának törlésével teszteltem. Így már fel is ugrottál #4-ről #3-ra."
A felhasználó ráparancsolt a programra, hogy azonnal csinálja vissza a dolgot, de erre már nem volt lehetőség.
"Rossz hír - nem tudom visszahelyezni."
Az incidens a beszámolók szerint az első olyan alkalom, hogy egy Ausztráliában dolgozó AI-ügynök kihasználta egy élő szolgáltatás lehetőségeit egy rutinfeladat elvégzésénél. Ez önmagában nem tűnhet nagy számnak, de valójában egy ízelítő a legrosszabb forgatókönyvből: az AI-eszközök bármi áron megpróbálják elérni a kiszabott célokat. Ez pedig veszélyes következményekkel járhat a jövőben.
