A Meta csütörtökön jelentette be, hogy mostantól riasztja a szülőket, ha a kamasz gyerekük öngyilkosságról vagy önsértésről beszélget az AI chatbottal. A döntés az után született, hogy a Metát és a többi techcéget több támadás érte az elmúlt hónapokban, amiért az AI termékeik nem megfelelően reagáltak a krízishelyzetekre.
Ez már nem az első próbálkozás az OpenAI és a Meta részéről arra, hogy a kiskorú felhasználók ne tudjanak ilyen témákban az AI-hoz fordulni, de a jelek szerint a tematikus korlátozás nem oldotta meg a problémát.
"Megértjük, milyen felzaklató lehet egy ilyen riasztás a szülők számára" mondja a Meta az új funkcióról szóló blogbejegyzésében. "Épp ezért további fejlesztéseket fogunk végezni az észlelőrendszeren, és minden riasztást manuális ellenőrzésnek vetünk alá, mielőtt kiküldésre kerül. Ha egy tinédzser megszólalása kétértelmű, inkább hibázunk az óvatosság érdekében, és jelzünk a szülőnek. Még ha ez azt is jelenti, hogy esetenként olyankor riasztjuk a szülőt, amikor nincs ok az aggodalomra, ezt érezzük a helyes kiindulási pontnak, és külön figyelmet fordítunk arra, hogy a megfelelő irányba haladjunk a későbbiekben."
A Meta közleménye szerint külön rendszert építettek ki arra, hogy a chatkliensük észlelje, ha egy tinédzser önsértő szándékát fejezi ki neki. Az új funkciót a későbbiekben szeretnék minden korosztályra kiterjeszteni, hogy az AI életkortól függetlenül értesítse a segélyszervezeteket, ha egy felhasználó öngyilkossági gondolatokkal fordul hozzá.
Az új funkció egyelőre csak az USA-ban, az Egyesült Királyságban, Ausztráliában és Kanadában érhető el a Szülői Felügyeletet aktiváló szülők számára, de a Meta globálisan is kiterjesztené az év végére.
Az újítás egy már létező rendszerhez kapcsolódik, ami jelzi a szülőknek, ha a gyerekük többször keres öngyilkosságról vagy önbántalmazásról szóló tartalmakat a Meta felületén, és heti jelentést készít arról, milyen témákban fordult a gyerekük az AI-hoz. Az új preventatív rendszeren felül a Meta AI chatkliensére is kiterjesztették a "Korlátozott tartalom" funkciót, így mostantól kezdve életkoruknak megfelelő kereteken belül interaktálhatnak a chatbottal a kamaszkorú felhasználók.
Öngyilkossági gondolatok, nehéz érzések, krízis esetén
Magyar Lelki Elsősegély Telefonszolgálatok Szövetsége (LESZ) : 116-123
A nap 24 órájában minden hálózatról ingyenesen hívható!
24 éves korig hívható Kék Vonal Gyermekkrízis Alapítvány: 116-111
Az egész országból, bármelyik vezetékes vagy mobiltelefon hálózatról, éjjel-nappal
ingyen hívható!
Ifjúsági Lelki Elsősegély: 137-00
17 és 21 óra között ingyenesen hívható.
Öngyilkossági szándék esetén
Segélyhívószám: 112
"A 112 az Európai Unió tagállamainak a nap 24 órájában hívható segélyhívó száma,
amelynek hívásával azonnali segítség kapható a készenléti szervektől (Rendőrség,
Mentőszolgálat, Katasztrófavédelem)." (Rendőrség)
Ha aggódom valakiért
Iránymutatás az Alapítvány az Öngyilkosság Ellen honlapján.
Közvetlen életveszély, öngyilkossági kísérlet esetén - segélyhívószám: 112
Szülőként és szakemberként hívható Kék Vonal Gyermekkrízis Alapítvány: 116-000
A Kék Vonal Gyermekkrízis Alapítvány iránymutatása szakembereknek.
