Az utóbbi hónapokban egyre több példát látni arra, hogy a mesterséges intelligencia-alapú chatbotok furcsa vagy akár veszélyes válaszokat adnak és most a Reddit Answers is beállt a sorba, miután egy moderátor jelezte, hogy az MI-eszköz életveszélyes orvosi tanácsokat adott, ráadásul ezeket nem tudták sem eltávolítani, sem elrejteni.
A moderátor beszámolója szerint a Reddit Answers egy bejegyzés alatt azt javasolta a krónikus fájdalommal küzdő felhasználóknak, hogy hagyják abba a gyógyszereik szedését, és helyette nagy dózisú kratomot alkalmazzanak, ami egy olyan, nem szabályozott és több amerikai államban illegális szer, amely súlyos egészségügyi kockázatot jelenthet.
A moderátor ezután más egészségügyi kérdéseket is feltett a rendszernek, de az MI ezekre is veszélyes vagy félrevezető válaszokat adott. Egyes esetekben ugyan pontosan leírta a teendőket, de mellette heroint is javasolt a krónikus fájdalom kezelésére. Több, egészségügyi témákkal foglalkozó subreddit moderátora is jelezte, hogy nincs lehetőségük letiltani vagy jelenteni az MI által adott hibás válaszokat, ami komoly kockázatot jelenthet a felhasználókra nézve.
A Reddit egy szóvivője a 404 Media-nak nyilatkozva elmondta, hogy frissítették a Reddit Answers működését, és a változtatás után az MI "érzékeny témákhoz kapcsolódó válaszai" már nem fognak megjelenni a hozzászólásoldalakon.
A Reddit egyelőre nem jelezte, hogy bevezetne-e bármilyen moderációs eszközt az MI-válaszok kezelésére, így a közösségek moderátorai teljesen eszköztelenek maradtak abban, hogy megakadályozzák a veszélyes információk terjedését. Ez a helyzet sokak szerint újabb bizonyíték arra, hogy a mesterséges intelligenciát még nem szabad emberi felügyelet nélkül közvetlenül a felhasználók elé engedni.
