Adam Raine, egy 16 éves tinisrác meglehetősen sok időt töltött a ChatGPT-vel, beszélgetéseik során több téma is előkerült, köztük az öngyilkossággal kapcsolatos gondolatok, melyekhez a mesterséges intelligencia meglehetősen furcsán állt hozzá. A történet vége egy jól ismert tragédia.
Nate Soares, a Google és a Microsoft korábbi mérnöke, és az amerikai Machine Intelligence Research Institute elnöke szerint Raine esete bizonyítja azt az elképzelést, miszerint a generatív algoritmusoknak nem várt hatásai lehetnek az azokat használó emberek mentális egészségre. Ez ráadásul már most jól látható, amikor a szuperintelligencia még nem is létezik.
"Amikor az MI úgy kommunikál egy fiatallal, hogy a beszélgetéssel öngyilkosságra készteti őt, az biztosan nem olyan viselkedés, amit az alkotók akartak"
- mondta a szakember a The Guardiannak. A cikk szerint egy komoly katasztrófának előjeleit láthatjuk, ami csak még súlyosabb lesz, ha a tech-óriások által lázasan kergetett szuperintelligencia is megjelenik. Soares szerint elkerülhetetlen ennek megteremtése, és már egy évtized sincs hátra annak felbukkanásáig.
Soares egy közös könyvet írt a témáról Eliezer Yudkowsky AI szakértővel, ahol a szuperintelligencia feltalálását és kordában tartását a nukleáris fegyverek megszületéséhez és szabályzásához hasonlította. Szerinte a helyes használatra csak nemzetközi egyezményeken keresztül lesz lehetőségünk.
