A Politico hozzájutott egy törvényjavaslathoz, amit a Claude-ot fejlesztő Anthropic nyújtott be az Amerikai Egyesült Államok Capitoliumának. A törvényjavaslat célja, hogy egy egységes biztonsági keretet szabjanak az AI modellek működésének, és amennyiben a modell jelentős fenyegetést jelent az emberiségnek vagy a gazdaságnak, le lehessen kapcsolni.
A javaslatban meghatározott feltételek szerint egy AI modell akkor tekinthető közvetlen veszélynek, ha a tevékenységével egymilliárd dollár kárt okoz, vagy a működése több, mint 50 ember halálához vagy komolyabb sérüléséhez vezet. A kockázat fakadhat abból, hogy az ügynök biológiai fegyvert fejleszt vagy szabadít el, a fejlesztő kontrolljától függetlenül cselekszik vagy kibertámadást hajt végre.
Egy ilyen egységesített, minden államra alkalmazható törvényre valóban szükség van, azonban nem biztos, hogy egy AI vállalatnak szabadna meghatároznia, mikortól korlátozhatják egy új modelljének a megjelenését.
Tekintve, hogy mennyi AI felhasználó létezik világszerte, az 50 fő alacsony küszöbnek számít, viszont így is döbbenetesen megengedő, ha azt is figyelembe vesszük, hogy a legtöbb munkahely éves céljának tűzi ki, hogy 0 ipari baleset történjen a kékgalléros munkaterületeken. Ráadásul a törvényjavaslat nem tér ki az olyan halálesetekre, amikor az AI modell öngyilkosságba vagy önmagára káros tevékenységre buzdította a felhasználóját.
Így az 50 fő valójában egy magas küszöbérték.
Az eddigi értesülések szerint az elszabadult AI ügynökök tevékenységeiből még nem született egymilliárd dolláros kár, így ez a határ is megengedő a modellekkel szemben. Kiváltképp, hogy a javaslat nem határozza meg az olyan jellegű ügynöki tevékenységeket, amelyekben a cél egy parazita kapcsolat létesítése a megtámadott rendszerrel. Már történt ilyen kísérlet a Wikipedia esetében, amikor az ügynökök adatszerzési forrássá akarták átkódolni a Wikimedia rendszerének moduljait.
Habár a törvényjavaslat tartalmazza, hogy harmadik felek ellenőrizhetik ezeknek a vállalatoknak a tevékenységét, illetve a fejlesztőknek transzparenciát kell gyakorolniuk a jelentéseikben, egyelőre nem láttunk példát arra, hogy az AI fejlesztő cégek valódi felelősséget vállaltak volna az okozott károkért. Az elmúlt hónapokban elszabadult ügynökök ellenére kérdéses, hogy milyen megelőző lépéseket tesznek meg a kutatók, hogy hasonló esetek ne történhessenek meg a jövőben. Szeptemberben egy biztonsági szakember felmondott az Anthropicnál, az ő posztja szerint a cégek figyelmen kívül hagyják a biztonsági kockázatokat, hogy a technológiai verseny élén maradhassanak.
