Az elmúlt hetekben többen teljesen ártatlan képek feltöltése után vesztették el a Discord-fiókjukat, és a cég most elismerte, hogy egy hiba miatt több mint 8000 felhasználót tiltott ki tévesen az automatikus moderációs rendszer.
A problémát egy mesterséges intelligenciával támogatott biztonsági rendszer okozta, amely május óta hibásan jelölt meg teljesen ártalmatlan képeket. A beszámolók szerint még egyszerű táblázatok, sakktáblák, játéktextúrák, illetve fehér vagy szürke, átlátszó hátterek is olyan tartalomnak minősülhettek, amely automatikus tiltást vont maga után.
A Discord szerint a rendszer alapvetően illegális tartalmak felismerésére szolgál, azonban egy szoftverhiba miatt a gyanúsnak ítélt fiókokat a megszokottnál jóval gyorsabban, gyakorlatilag automatikusan kitiltotta.
A hibát azóta kijavították, az érintett fiókok helyreállítása pedig már folyamatban van.
Elég nagy baki lehetett, mert a közösségi oldalakon többen arról számoltak be, hogy egyszerű, négyzetrácsos mintákat tartalmazó képek feltöltése után veszítették el a fiókjukat. Egyes felhasználók szerint elképzelhető, hogy a rendszer túlságosan érzékennyé vált az ilyen mintákra, mivel korábban előfordult, hogy tiltott tartalmak elrejtésére is használtak hasonló megoldásokat.
This weekend, our safety systems incorrectly triggered and banned around 200 accounts. Everyone affected has been reinstated.
— Discord Support (@discord_support) July 7, 2026
Here's what happened. A thread 🧵 https://t.co/wXH32iiv8I
A Discord azt ígéri, hogy további védelmi mechanizmusokat épít be a rendszerbe, hogy hasonló tévedések a jövőben ne fordulhassanak elő.
