Amikor egy LLM-re épülő, generatív algoritmussal beszélgetünk az fentről nézve egy egyszerű folyamat: a felhasználó kérdez valamit, az AI kiköp egy választ. A két végpont között rengeteg dolog zajlik a háttérben, de alapvetően az elmélet nem túl komplikált. Akkor válik azzá, amikor az AI ügynökök lendülnek akcióba, mivel ezek nem állnak meg egyetlen válasznál.
Ahogy a szoftver működésbe lép, úgy több különböző feladatot igyekszik megoldani, ami megsokszorozza a végrehajtott utasítások számát. Ez meghosszabbítja a hardver kihasználtságának idejét, és jelentősen megemeli az energiafogyasztást. A Gizmodo által használt felmérés szerint egy átlag AI segéd 348,41 Wh-t használ feladatonként, ami nagyjából megegyezik egy LED-es izzó egynapos fogyasztásával. Ez úgy 136,5x annyi, mint egy generatív AI-nak intézett kérdés esetében.
A feladatok végrehajtásának lassúsága is probléma, mert egy ügynök átlagosan 153,7x annyi ideig dolgozik valamin, mint egy generatív modell. Amíg az ügynök lefoglalja a hardvert, addig az használhatatlan másra, de közben a kutatók szerint egy GPU a végrehajtási folyamat 54,5 százalékában csak üresen áll, várva a rendszer többi részét a rájuk eső részek kiszámításával. A hatékonyság ilyen mértékű hiánya nem lenne gond, ha a segédek csak laborkísérletek formájában léteznének, de közben a Moltbook már 200 000 igazolt ügynököt számlál, míg több mint 400 000 ügynök kereskedik már kriptovalutákkal.
A felmérések szerint hamar eljöhet az az idő, amikor 13,7 milliárd kérést fognak kezelni az ügynökök naponta, ami 198,8 Gigawatt energiát igényelne. Ez durván fele az Egyesült Államok teljes fogyasztásának, és kérdéses, hogy még egy fél USA-t el tudna-e bírni szeretett bolygónk.
