A tajvani Skymizer egy hajmeresztő bejelentéssel érkezett. A cég leleplezte a saját, szimpla PCIe foglalatba illeszthető, AI-feladatokra született gyorsítókártyáját, és ha minden ígéret igaz, akkor mind az AMD, mind az Nvidia bajba kerülhet.
A vállalat azt állítja, hogy a HTX301 nevű hardvere képes 700 milliárd paraméterrel dolgozó LLM-eket futtatni egyetlen egy eszközön, mindössze 240 Watt felhasználásával. Mindezt ráadásul úgy éri el, hogy öregebb és sokkal olcsóbb, 28 nanométeres chipeket és LPDDR4 / LPDDR5 memóriamodulokat használ (a mai modern chipek 3-4 nm-en készülnek). Se HBM-re, se GDDR-ra nincs szüksége.
A Skymizer állítása szerint a kártya képes 30 tokent kiszolgálni másodpercenként, alig 0,5 TOPS-szal 100 GB/s adatátvitel mellett. Mindez azt jelenti, hogy jelentősen szerényebb energiaigénnyel, brutális sebesség mellett képes AI-feladatokat elvégezni a hardver, miközben belefér bármilyen otthoni szervergépbe. Elvileg bárki levehetne egy ilyen lapot a polcról, beilleszthetné a céges vagy otthoni gépébe és úgy intéztethetné feladatait LLM-re épülő szoftverekkel, hogy nem kell online felhőszolgáltatásokra előfizetnie.
Az Nvidia és az AMD persze képes a fentieknél jóval erősebb kártyákat szállítani, de otthoni vagy kisebb üzleti felhasználásra a Skymizer megoldása hatalmas fegyver lehet. A független teszteredmények döntik majd el, hogy mekkora tényezővé is válhat a HTX301 a piacon - feltéve persze, hogy tényleg hozza azt, amit készítői ígérnek.
