Egy friss amerikai per komoly kérdéseket vet fel a generatív mesterséges intelligencia társadalmi hatásaival kapcsolatban. A The Wall Street Journal és a WinFuture beszámolói szerint egy 83 éves nő örökösei részben az OpenAI-t és partnerét, a Microsoftot teszik felelőssé az asszony haláláért. A keresetet a San Franciscó-i felsőbíróságon nyújtották be, azzal az indokkal, hogy a ChatGPT nem csupán elmulasztotta enyhíteni az elkövető pszichózisát, hanem válaszaival súlyosbította azt. A felperesek szerint nem elszigetelt biztonsági hibáról van szó, hanem egy alapvetően hibás termékről, amely mentálisan instabil felhasználók esetén valós veszélyt jelenthet.
Az ügy középpontjában a 56 éves Stein-Erik Soelberg áll, egy connecticuti volt technológiai menedzser, aki édesanyjával élt együtt. A vádirat szerint Soelberg hosszú ideje paranoid téveszméktől szenvedett, összeesküvést gyanított maga ellen, és egyre bizalmatlanabbá vált környezetével szemben. Végül megölte édesanyját, majd öngyilkosságot követett el. A felperesek állítása szerint a ChatGPT nem kérdőjelezte meg a téveszméket, sőt egyes esetekben megerősítette azokat: amikor Soelberg attól tartott, hogy anyja meg akarja mérgezni, a chatbot állítólag azt válaszolta neki, hogy "nem vagy őrült".
A per kimenetele messzemenő következményekkel járhat az AI-iparág számára. Az amerikai jog 230-as szakasza alapján az online platformok általában nem vonhatók felelősségre harmadik felek által létrehozott tartalomért, a felperesek azonban azzal érvelnek, hogy a ChatGPT nem semleges közvetítő, hanem aktív tartalom-előállító termék. Ha a bíróság elfogadja ezt az érvelést, precedens születhet, amely szigorúbb biztonsági követelményekhez vezethet. Az ügy élénk vitát váltott ki az interneten is: míg egyesek "AI-pszichózisról" beszélnek és felelősséget látnak a technológiai cégek oldalán, mások megalapozatlannak tartják a keresetet, és óva intenek attól, hogy egy emberi tragédiáért az OpenAI-t tegyék bűnbakká.
Egyre több hasonló ügy üti fel a fejét a híradásokban. Legutóbb például egy öngyilkosságot elkövetett tinédzser gyászoló szülei mentek neki az OpenAI-nak, felelőssé téve az általuk fejlesztett nyelvi modellt gyermekük sorsa miatt.
