Az AI-chatbotok egyik legnagyobb vonzereje, hogy idővel egyre jobban "megismernek" minket, emlékeznek a preferenciáinkra, a munkánkra és arra, hogyan szeretünk válaszokat kapni. Egy kutatás szerint azonban ennek van egy kevésbé látványos oldala is, a rendszerek a beszélgetésekből fokozatosan felépíthetnek rólunk egy részletes profilt, amelyet a kutatók "algoritmikus önarcképnek" neveznek, és amelybe olyan következtetések is bekerülhetnek, amelyeket soha nem mondtunk ki egyértelműen.
A Max Planck Institute for Software Systems és a Max Planck Institute for Security and Privacy kutatói 80 olyan ChatGPT-felhasználó beszélgetési előzményeit vizsgálták meg, akik az európai adatvédelmi szabályok alapján kikérték saját adataikat. A kutatók 65 résztvevőnél összesen 2050 memóriaelemet találtak, és ezek 96 százalékát a rendszer úgy hozta létre vagy módosította, hogy a felhasználó erre nem adott külön utasítást.
Ez önmagában még nem feltétlenül probléma, hiszen éppen ettől működik a személyre szabás. Csakhogy a chatbot következtetései nem mindig pontosak. A kutatásban például valaki Nirvanához hasonló zenekarokat kért, mire a rendszer eltárolta róla, hogy szereti a Nirvanát - pedig ezt valójában soha nem állította. Még érdekesebb, hogy a vizsgált memóriaelemek 52 százaléka valamilyen pszichológiai állapotra, például vágyakra, szándékokra, érzelmekre vagy meggyőződésekre vonatkozó információt tartalmazott.
Azóta a ChatGPT memóriája ráadásul tovább fejlődött. Az OpenAI 2026 júniusában vezette be az új rendszert, amely már nem egyszerűen különálló emlékeket gyűjt, hanem folyamatosan frissülő összképet készít a felhasználó preferenciáiról, céljairól és körülményeiről. Az OpenAI saját dokumentációja szerint a felhasználó megtekintheti a memória összefoglalóját, ez azonban nem feltétlenül mutat meg minden olyan részletet és forrást, amelyet a ChatGPT a személyre szabáshoz felhasználhat.
A téma azért különösen érzékeny, mert a chatbotokkal gyakran sokkal intimebb dolgokat osztunk meg, mint egy hagyományos keresővel. Egészségügyi problémákról, pénzügyekről, munkáról vagy személyes konfliktusokról kérünk tanácsot, miközben maga a beszélgetés könnyen olyan érzést kelthet, mintha egy bizalmas, privát térben zajlana. Korábban arról is írtunk, hogy a ChatGPT már a korábbi beszélgetések és emlékek alapján is képes személyre szabni a kereséseket, a szolgáltatáshoz pedig azóta még több személyes adatforrás kapcsolható.
Az összegyűjtött információknak már reklámértéke is lehet. Az OpenAI szerint ha egy felhasználó bekapcsolja a személyre szabott hirdetéseket, a ChatGPT bizonyos memóriákat és korábbi beszélgetéseket is figyelembe vehet annak eldöntésekor, milyen reklámot mutasson neki. A cég ugyanakkor hangsúlyozza, hogy a hirdetők nem férnek hozzá a beszélgetésekhez, a memóriákhoz vagy a személyes adatokhoz, és a reklámok kiválasztása külön rendszerben történik, így azok nem befolyásolják a ChatGPT válaszait.
A felhasználóknak azért maradt némi kontrolljuk. A memóriát ki lehet kapcsolni, az összefoglalóban szereplő információk javíthatók, illetve használható Temporary Chat is, amely nem hoz létre és nem használ személyre szabó emlékeket. Az OpenAI arra is külön lehetőséget ad, hogy a beszélgetéseket ne használja fel modelljei fejlesztésére. A kutatók szerint azonban az igazi kérdés nem pusztán az, hogy léteznek-e ilyen kapcsolók, hanem az is, mennyire értik a felhasználók, milyen részletes kép állhat össze róluk pusztán abból, amit hónapok vagy évek alatt elmondanak egy chatbotnak.
Forrás: Gizmodo
