A DuckDuckGo sok felhasználó szemében épp azért lett vonzóbb az elmúlt időszakban, mert a Google egyre erősebb AI-nyomulásával szemben hagyományosabb, nyugodtabb keresési élményt ígért. Most viszont a cég saját AI-funkciója hozott össze egy látványosan kínos hibát: hamisan azt állította, hogy Donald Trump veszettségben meghalt, miután J. D. Vance-től kapta el a fertőzést. A hír természetesen nem igaz.
A furcsa állítás a DuckDuckGo AI-alapú keresési válaszában jelent meg, és nagyon úgy tűnik, hogy a rendszer félrevezető internetes tartalmakat kötött össze egymással. A Futurism szerint ebben szerepe lehetett egy Reddit-közösségnek is, amely kifejezetten azzal kísérletezik, hogy hamis információkkal mérgezze meg az AI-modellek által feldolgozott adatokat.
A probléma nem ismeretlen. Az AI-keresők gyakran több forrásból próbálnak gyors választ összerakni, de ha rossz, viccnek szánt vagy szándékosan hamis tartalmakat vesznek komolyan, könnyen meggyőzőnek tűnő képtelenségeket hozhatnak össze. Ez különösen veszélyes politikai vagy közéleti témáknál, ahol egy hibás állítás nagyon gyorsan terjedhet tovább.
A DuckDuckGo helyzete azért is kellemetlen, mert a cég közben erősen ráérzett az AI-ellenes keresési igényre. Nemrég külön No AI keresőoldalt és böngészőbővítményeket is indított, amelyekkel a felhasználók AI-válaszok, chatbotok és AI-képtalálatok nélkül kereshetnek. A cég hivatalos álláspontja szerint az AI-nak opcionálisnak kell lennie, nem kötelező alapértelmezésnek.
Ettől még a DuckDuckGo nem lett teljesen AI-mentes szolgáltatás. A Duck.ai néven futó funkció külső modelleket is használ, köztük Anthropic-, Mistral- és OpenAI-rendszereket. Vagyis miközben a cég az AI nélküli keresésből is látványos növekedést tudott csinálni, közben megtartotta az AI-s vonalat is, ami most látványosan visszaütött.
A történet tanulsága nem az, hogy egyetlen kereső hibázott, hanem az, hogy az AI-összegzések továbbra sem kezelhetők ellenőrzött tényként. Egy hagyományos kereső találatai között is lehet hamis információ, de ott a felhasználó legalább látja, honnan jön az állítás. Egy AI-válasz viszont sokszor kész tényként fogalmaz, még akkor is, ha a háttérben rossz forrásokra vagy félreértett poénokra épít.
A DuckDuckGo pont abból próbált előnyt kovácsolni, hogy sokan belefáradtak az AI-jal telepakolt keresésbe. Ez a hiba viszont jól mutatja, milyen nehéz egyszerre AI-mentes menekülőutat kínálni és közben AI-funkciókat is futtatni. A bizalom a keresőknél mindennél fontosabb, és egy ilyen látványos tévedés pont azt kezdi ki, amit a DuckDuckGo mostanában a legjobban próbált eladni.
