Eric Horvitz, a Microsoft vezető tudományos munkatársa és Robert West, az EPFL svájci műszaki egyetem kutatója szerint a mesterséges intelligencia olyan ütemben fejlődik, hogy az ember kezd lemaradni mögötte.
A kutatók nem azt állítják, hogy minden egyes algoritmust vagy paramétert tökéletesen értenünk kellene, de szerintük létfontosságú, hogy elegendő rálátásunk maradjon a rendszerek működésére ahhoz, hogy időben felismerhessük a kockázatokat és megőrizzük az emberi kontrollt.
Aggasztónak tartják, hogy a modern AI-rendszerek egyre gyakrabban vesznek részt más AI-modellek fejlesztésében és finomhangolásában.
Az ilyen önmagukat fejlesztő folyamatok során a teljesítmény ugyan javulhat, de az emberek egyre kevésbé láthatják át, pontosan hogyan születnek a döntések.
Horvitz és West szerint az AI-rendszerek ma már olyan ciklusokban tervezik és optimalizálják egymást, amelyek gyorsabban zajlanak, mint ahogy az ember képes követni azokat. Emiatt egyre nehezebb megérteni a háttérben zajló folyamatokat, még akkor is, ha a végeredmény látható marad. A kutatók ezért azt javasolják, hogy azok a rendszerek, amelyek részt vesznek más AI-ok fejlesztésében, automatikusan készítsenek ember által is értelmezhető magyarázatokat a működésükről.
A másik vészjósló dolog, hogy egyre több mesterséges intelligencia működik összekapcsolt hálózatokban, és emiatt fennáll a veszélye annak, hogy ezek a rendszerek fokozatosan eltávolodnak az ember számára érthető kommunikációs formáktól. Magyarul ez annyit jelent, hogy elképzelhető, hogy az AI-ok idővel olyan kommunikációs mintákat alakítanak ki egymás között, amelyek hatékonyak számukra, de az emberek számára egyre kevésbé lesznek értelmezhetők.
A tanulmányban érintik a társadalmi részt is, főleg az úgynevezett adaptív AI-rendszerekkel kapcsolatban, amik hosszú időn keresztül kapcsolatban maradnak egy-egy emberrel. Az ilyen rendszerek idővel túlontúl részletes képet alkothatnak az emberek szokásairól, preferenciáiról, motivációiról, bizonytalanságairól vagy akár félelmeiről.
Ez azt a disztópikus jövőt vetíti előre, ahol a mesterséges intelligencia egyre többet tud az emberekről, az emberek egyre kevésbé értik az AI működését.
Horvitz és West arra is figyelmeztetnek, hogy a jövőben az AI-modellek akár azt is megtanulhatják, hogyan feleljenek úgy a teszteken és ellenőrzéseken, hogy az megfeleljen az elvárásoknak, de közben a háttérben úgy csinálnak mindent, ahogy nekik tetszik.
A legnagyobb probléma jelenleg az, hogy az emberek fokozatosan elveszíthetik az érdeklődésüket az AI-rendszerek megértése és ellenőrzése iránt, ami jelenleg beláthatatlan következményekkel járhat. A Science-en megjelent teljes cikket is érdemes elolvasni, ha érdekel a téma.
