Az AI körül egy hatalmas befektetési buborék alakult ki, ami egyébként bármikor kipukkanhat, a gyakorlatban ennek épp az ellenkezőjére készülnek a nagy játékosok. Az óriáscégek, mint a Google és az OpenAI, alig győzik bővíteni infrastruktúrájukat, hogy lépést tartsanak az MI-szolgáltatások iránti kereslettel.
A CNBC beszámolója szerint a Google egyik belső, minden dolgozót érintő megbeszélésén Amin Vahdat, a cég AI-infrastruktúráért felelős vezetője azt mondta, hogy a vállalatnak félévente meg kell dupláznia számítási kapacitását, ha ki akarja elégíteni a növekvő igényeket. A Google Cloud alelnöke egy prezentációban azt is bemutatta, hogy a cél egy ezerszeres teljesítménynövekedés elérése négy-öt éven belül.
Ez a cél önmagában is rendkívül ambiciózus, de Vahdat hangsúlyozta, hogy mindezt nagyjából azonos költség és energiafelhasználás mellett kell megvalósítani. Azt mondta,
"nem lesz könnyű, de együttműködéssel és közös tervezéssel sikerülni fog."
Nem világos, hogy a Google által említett kereslet mekkora része jön effektíve a felhasználóktól és mennyit tesz ki az, hogy a vállalat egyre több mesterséges intelligencia alapú funkciót épít be saját szolgáltatásaiba, például a Gmailbe vagy a keresőbe.
Vahdat szerint az AI-verseny legkritikusabb és legköltségesebb része az infrastruktúra, de a cél nem pusztán az, hogy a Google többet költsön a riválisainál.
"Sokat fogunk költeni, de az igazi cél, hogy megbízhatóbb, gyorsabb és jobban skálázható rendszert építsünk, mint bárki más."
A legnagyobb akadályt jelenleg a GPU-hiány jelenti, az Nvidia egyszerűen nem tud elegendőt gyártani, a vállalat legutóbbi jelentésében maga is elismerte, hogy "teljesen ki van fogyva az AI-chipekből", miközben adatközponti bevétele egyetlen negyedév alatt 10 milliárd dollárral nőtt. Ez a hiány közvetlenül korlátozza a Google fejlesztéseinek terjedését is, Sundar Pichai, a vállalat vezérigazgatója a megbeszélésen példaként említette a Veo nevű videógeneráló eszközt, amelyet a hardverhiány miatt nem tudtak elég felhasználóhoz eljuttatni.
A Google új adatközpontok építésével, hatékonyabb MI-modellek fejlesztésével, valamint saját, testre szabott chipek tervezésével igyekszik megoldani a problémát, amiből az utóbbi a legfontosabb, mert így nem teljesen függ az Nvidiától.