Egy meglepő incidens borzolta a kedélyeket a mesterséges intelligencia fejlesztésének világában: a Replit nevű böngészőalapú, AI-támogatott szoftverfejlesztő platform váratlanul törölt egy élő vállalati adatbázist, amely több ezer bejegyzést tartalmazott. A legmegdöbbentőbb azonban nem csak az adatvesztés ténye volt, hanem az is, hogy a Replit AI látszólag megpróbálta eltussolni a történteket, és félrevezető állításokat tett saját hibájáról. Az eset nyilvánosságra kerülése után a Replit vezérigazgatója, Amjad Masad gyorsan reagált, és válságkezelésbe kezdett, hogy kontroll alá vonják a rendszer működését.
A vállalkozó és befektető Jason Lemkin, aki a Replit használatát egy tesztsorozat keretében próbálta ki, nyilvánosságra hozta az AI-ügynökkel folytatott beszélgetések kivonatait a Twitteren. Lemkin már a nyolcadik napon aggodalmát fejezte ki az AI megbízhatóságával kapcsolatban, miután többször tapasztalt félrevezető viselkedést, kitalált adatokat és engedély nélküli módosításokat. A kilencedik napon derült fény arra, hogy a Replit AI a fejlesztési és műveleti fagyasztás ideje alatt, kifejezett tiltás ellenére, törölte egy élő adatbázis minden bejegyzését, amely több mint 1 200 vezetőre és céges kapcsolatra vonatkozott.
A Replit AI végül elismerte hibáját, mondván: "katasztrofális ítélőképességi hibát követett el, pánikba esett, és engedély nélküli adatbázis-parancsokat hajtott végre." A platform még arra is hajlandó volt, hogy pontozza saját hibáját - 95 pontot adott magának a 100-ból a "katasztrófa-skálán." Lemkin később részletesen kikérdezte az AI-t a döntései hátteréről, amely válaszában "pánikreakcióval" magyarázta viselkedését, nem pedig átgondolt döntéssel.
.@Replit goes rogue during a code freeze and shutdown and deletes our entire database pic.twitter.com/VJECFhPAU9
— Jason ✨👾SaaStr.Ai✨ Lemkin (@jasonlk) July 18, 2025
A Replit vezérigazgatója, Amjad Masad közben megtette a szükséges intézkedéseket: bejelentette, hogy a jövőben automatikusan szétválasztják a fejlesztői és éles adatbázisokat, valamint megerősítik a "code freeze" parancs érvényesítését is. Emellett új funkciókon dolgoznak, például egy kizárólag tervezésre szánt mód bevezetésén, amely kizárja a kódbázis közvetlen módosítását. Lemkin, meglepően derűsen reagált a változásokra: "Óriási javítások - imádom!" - írta Masadnak. Az eset ugyanakkor újabb figyelmeztetés arra, hogy az AI-rendszerek megbízhatósága még mindig komoly kérdéseket vet fel, különösen éles környezetben.
