Egy floridai nő saját bevallása szerint naplóként használta az Anthropic mesterséges intelligenciáját, ám egy bejegyzése végül hatósági fellépést váltott ki. Carli Michelle Heller szeptember 26-án a már tudományos felfedezéssel is büszkélkedő Claude-dal folytatott beszélgetésében arról írt, hogy megtámadná a Lee megyei seriffhivatalt. A chatbot biztonsági rendszere ezt követően jelezte a beszélgetést, amelyet egy emberi ellenőr is megvizsgált, és mivel hitelesnek ítélte a fenyegetést, értesítette a hatóságokat.
A rendőrségi jelentés szerint a Bonita Springsben élő Heller később azt mondta, hogy a Claude-ot tulajdonképpen egyfajta naplóként használja. A biztonsági rendszer által megjelölt bejegyzés azonban nem maradt kizárólag a nő és a chatbot között. Anthropic szabályzata bizonyos sürgős esetekben lehetővé teszi a felhasználói információk megosztását, amennyiben a vállalat úgy ítéli meg, hogy erre halál vagy súlyos sérülés megelőzése érdekében szükség van.
A hatóságok azonosították Hellert, majd rendőrök jelentek meg az otthonánál. A nőt incidens nélkül őrizetbe vették, az ügy kivizsgálását pedig később a seriffhivatal hírszerzési részlegének egyik nyomozója vette át. Heller ellen írásban megfogalmazott erőszakos fenyegetés miatt emeltek vádat.
Florida törvényei szerint ez másodfokú bűncselekménynek minősülhet. A jogszabály az elektronikus úton továbbított fenyegetéseket is érinti, amennyiben azok más személy megölésével vagy megsebesítésével, tömeges lövöldözéssel vagy terrorcselekménnyel fenyegetnek, és a közlés mások számára hozzáférhető lehet.
Forrás: SWFL
