Nemrég mi is beszámoltunk róla, hogy a mesterséges intelligencia térhódításában erősen érdekelt vállalatok nagy menyiségben vásárolják fel a ritka könyveket, hogy még nem digitalizált információkkal tanítsák a nagy nyelvi modelleket. A gond csupán az, hogy a folyamat során ezek a kiadványok megsemmisülnek, a gerincüket a beszkennelés előtt levágják, a lapok aztán mennek a darálóba. És ebben az az Amazon is benne lehet könyékig, amelynek a pályafutása online könyvkereskedésként indult. A 404 Media egy elrejtett AirTag segítségével követte végig egy ritka könyv útját, amely végül egy Las Vegas-i Amazon-raktárba került. A lap beszámolója szerint az épület egyik részében a könyveket nem értékesítésre készítik elő, hanem feldolgozzák, beszkennelik, majd megsemmisítik.
A történet egy ritka könyveket árusító kereskedővel kezdődött, aki az elmúlt évben látványos megugrást tapasztalt az ilyen kiadványok iránti keresletben. A 404 Media arra volt kíváncsi, kik vásárolják fel a könyveket, ezért az egyik eladó beleegyezett, hogy egy nagyjából ezer könyvből álló rendelés egyik darabjába AirTaget rejtsenek. A nyomkövető először Kaliforniából Milwaukee-ba, majd onnan a coloradói Grand Junctionbe vezette az újságírókat. Néhány héttel később azonban már Las Vegasban bukkant fel a könyv, méghozzá az Amazon LAS8 jelzésű raktáránál.
Az LAS8 jellemzően print-on-demand, vagyis igény szerinti nyomtatásra épülő könyves létesítményként működik. A 404 Media azonban úgy értesült, hogy a raktár északi részén egészen másféle munka zajlik. A VGT3 néven azonosított területen a könyveket átveszik és szétválogatják, majd egy olyan folyamat következik, amelynek során levágják a kötetek gerincét, a lapokat pedig szkennereken futtatják keresztül. A beszámoló szerint ezekből a szkennelésekből nem hagyományos digitális könyvek, például emberek számára olvasható PDF-ek készülnek. A megszerzett adatokat mesterséges intelligencia betanítására használják. A könyvek fizikai maradványait ezt követően kidobják, vagyis a folyamat végére az eredeti példány megszűnik létezni.
Fontos ugyanakkor, hogy a 404 Media nyomozása alapján megfogalmazott állítások nem jelentik azt, hogy az Amazon hivatalosan elismerte volna, hogy kifejezetten mesterséges intelligencia tanítása céljából semmisít meg ritka könyveket. A történet mindenesetre rávilágít egy egyre fontosabb problémához, amellyel az AI-fejlesztőknek szembe kell nézniük. A nagy nyelvi modellek számára elérhető, a tanításukhoz felhasználható, ember által létrehozott adatok mennyisége véges. Ráadásul az internet egyre nagyobb részét árasztják el az AI által generált szövegek, képek és egyéb tartalmak. Ha egy mesterséges intelligenciát újra és újra más mesterséges intelligenciák által létrehozott adatokon tanítanak, annak súlyos következményei lehetnek.
Az egyik ilyen veszélyt modell-összeomlásnak nevezik. Ilyenkor az AI egyre inkább a korábbi AI-generálta adatokból tanul, miközben az információ fokozatosan veszít a változatosságából. A folyamat ahhoz hasonlítható, mintha egy fénymásolatot újra és újra lemásolnánk, tehát minden generációval romlik a végeredmény, míg végül alig marad valami az eredeti információból.
A helyzetet tovább súlyosbítják a mesterséges intelligencia hallucinációi. Ha egy modell egy másik rendszer által kitalált, de valósnak tűnő információból tanul, az új modell számára már könnyen alapadatként jelenhet meg. Ha ezt a folyamatot újra és újra megismétlik, a tévedések fokozatosan beépülhetnek az újabb modellekbe, miközben egyre nehezebb lesz megkülönböztetni a valós információt a gép által gyártott képtelenségektől.
A probléma tehát egyszerre mennyiségi és minőségi. Az interneten elérhető, ember által készített tartalmak jelentős részét már feldolgozták a nagy nyelvi modellek, miközben az újonnan megjelenő digitális tartalmak között egyre több az AI által létrehozott anyag. A fejlesztőknek emiatt új, lehetőleg még érintetlen adatforrásokra van szükségük.
Itt jönnek képbe a könyvek. A nyomtatott kiadványok hatalmas mennyiségű olyan információt tartalmaznak, amely soha nem került fel az internetre vagy más digitális adatbázisokba. Egy régi könyv tehát az AI szempontjából potenciális adatbánya. Ráadásul az információnak nem feltétlenül kell aktuálisnak vagy minden szempontból helytállónak lennie ahhoz, hogy hasznos legyen egy modell betanításakor. A lényeg sok esetben az, hogy az adott szöveg egyedi legyen, és ne olyan adatokból származzon, amelyeket korábban már mesterséges intelligencia állított elő.
A folyamat azonban előbb-utóbb elérheti a határait. A könyvek száma sem végtelen, és ha a ritka, nehezen pótolható példányokat is azért darabolják fel, hogy a tartalmukat algoritmusok tanulják meg, bizonyos művek végleg elveszhetnek. A digitális kor egyik furcsa ellentmondása bontakozik ki előttünk: miközben minden korábbinál többet tudunk archiválni, az archiválás érdekében akár magát az eredeti kulturális tárgyat is feláldozhatjuk.
