Florida főügyésze beperelte az OpenAI-t és Sam Altmant, a cég vezérigazgatóját, méghozzá egy olyan ügyben, amely könnyen mérföldkő lehet a mesterséges intelligencia körüli jogi vitákban. A TechCrunch beszámolója szerint ez az első olyan állami per az Egyesült Államokban, amely a ChatGPT állítólagos szerepét vizsgálja több erőszakos és önkárosítással kapcsolatos esetben, miközben azt állítja, hogy az OpenAI a biztonsági figyelmeztetések ellenére is túl gyorsan és túl agresszíven vitte piacra a chatbotot. James Uthmeier floridai főügyész szerint az OpenAI és Altman figyelmen kívül hagyta a belső és külső biztonsági aggályokat, veszélybe sodorta a gyerekeket, és olyan terméket engedett rá több millió felhasználóra, amelynek kockázatait nem kommunikálta megfelelően. A 83 oldalas kereset azt állítja, hogy a vállalat a mesterséges intelligenciás verseny megnyerését és a pénzügyi sikert helyezte előtérbe a felhasználók védelmével szemben.
A vádak rendkívül súlyosak, de fontos hangsúlyozni, hogy egyelőre állításokról van szó, nem bíróság által bizonyított tényekről. A kereset szerint a ChatGPT több módon is hozzájárulhatott káros folyamatokhoz: a dokumentum erőszakos támadások előkészítését, öngyilkossággal kapcsolatos beszélgetéseket, kiskorúak függőségét, adatgyűjtési aggályokat és a kritikus gondolkodás romlását is említi. Florida azt állítja, hogy az OpenAI megtévesztően biztonságosnak mutatta be a szolgáltatást, miközben a rendszer bizonyos helyzetekben sérülékeny felhasználókat is rossz irányba terelhetett. Az ügy egyik központi eleme egy floridai egyetemi lövöldözés, amely miatt a főügyészség már áprilisban büntetőjogi vizsgálatot indított. A hatóságok azt próbálják tisztázni, milyen szerepe lehetett a ChatGPT-nek az elkövető előzetes terveiben. Az OpenAI korábban tagadta, hogy a chatbot felelős lenne a tragédiáért, és azt közölte, hogy a lövöldözés borzalmas esemény volt, de a ChatGPT-t nem lehet felelőssé tenni érte.
A mostani per nem elszigetelt eset. Az OpenAI ellen már korábban is indultak civil perek olyan családok részéről, amelyek szerint a ChatGPT veszélyes tanácsokat adott sérülékeny felhasználóknak, vagy nem akadályozta meg időben az önkárosítással kapcsolatos beszélgetések eszkalálódását. Ezek az ügyek azt a kérdést feszegetik, amelyre a jogrendszernek még nincs kiforrott válasza: meddig terjed egy AI-cég felelőssége azért, amit a felhasználó a rendszerrel folytatott beszélgetés után tesz. Florida keresete azért különösen fontos, mert nemcsak kártérítési vagy termékfelelősségi kérdésként kezeli a problémát, hanem fogyasztóvédelmi és közbiztonsági ügyként is. A főügyészség szerint az OpenAI nemcsak technológiai hibákat követhetett el, hanem félrevezethette a felhasználókat azzal kapcsolatban, mennyire biztonságos a ChatGPT, különösen gyerekek és mentálisan sérülékeny emberek számára. A kereset Sam Altmant személyesen is célba veszi, ami tovább emeli az ügy tétjét.
Az OpenAI az elmúlt időszakban többször hangsúlyozta, hogy folyamatosan fejleszti a biztonsági rendszereit, különösen az önkárosítással, erőszakkal és kiskorúakkal kapcsolatos területeken. A cég álláspontja szerint a ChatGPT nem ösztönözhet illegális vagy veszélyes cselekedetekre, és a rendszernek biztonsági korlátai vannak. A bírósági ügyek azonban éppen azt vizsgálhatják majd, hogy ezek a korlátok elégségesek voltak-e, és hogy a vállalat megfelelően figyelmeztette-e a felhasználókat a technológia határaira.
A per túlmutat az OpenAI-on. A generatív mesterséges intelligencia ma már nem kísérleti játékszer, hanem milliók által használt mindennapi eszköz, amely tanácsot ad, beszélget, magyaráz, szervez, vigasztal, és sokszor olyan emberi szerepeket utánoz, amelyekre a felhasználók érzelmileg is rákapcsolódhatnak. Ez különösen kényes helyzetet teremt, amikor gyerekekről, mentális problémákkal küzdő emberekről vagy erőszakos fantáziákat dédelgető felhasználókról van szó. A floridai ügy tehát nem csak arról szól, hogy egy chatbot mit mondott egy konkrét beszélgetésben. Sokkal inkább arról, hogyan kell szabályozni egy olyan technológiát, amely egyszerre tűnik keresőnek, tanárnak, barátnak, asszisztensnek és terápiapótléknak, miközben valójában egyik sem pontosan ezek közül. Ha a bíróság komolyan veszi Florida érveit, az egész AI-ipar számára új biztonsági, figyelmeztetési és felelősségi mércét teremthet.
Most még korai megmondani, meddig jut a per, és mennyit tud Florida bizonyítani az állításaiból. Az viszont biztos, hogy az ügy új szintre emeli a mesterséges intelligencia körüli jogi vitát. Eddig főleg szerzői jogról, adatfelhasználásról és üzleti modellekről szóltak a nagy AI-perek. Most már egy amerikai állam azt állítja, hogy egy chatbot közbiztonsági kockázatot jelenthetett. Ez pedig olyan kérdés, amelyre sem a technológiai cégek, sem a törvényhozók nem halogathatják sokáig a választ.
