A mesterséges intelligencia egyik legnagyobb hardveres gondja ma már nem pusztán az, hogy legyen elég erős GPU. Legalább ekkora probléma, hogy a számítási egységek elég gyorsan hozzáférjenek az adatokhoz. Ezt hívják memóriakorlátnak: a gyorsítók sokszor nem azért lassulnak, mert nem tudnának számolni, hanem azért, mert várniuk kell az adatra. A belga imec most egy olyan új 3D memóriakoncepcióval állt elő, amely egy régi kameratechnológiát, a CCD-t használja újra teljesen más célra. A CCD, vagyis charge-coupled device sokáig digitális fényképezőkben, kamerákban, tudományos képalkotó eszközökben és csillagászati szenzorokban volt meghatározó. Az alapelv lényege, hogy elektromos töltéseket mozgatnak félvezetőkapuk között. Az imec ezt az elvet nem képrögzítésre, hanem memóriaműködésre használja: a töltések sorban továbbíthatók és tárolhatók a memóriaszerkezeten belül.
Az új megoldás azért izgalmas, mert valahol a DRAM és a NAND közé próbál beállni. A DRAM gyors és újraírható, de drága, szivárog, és egyre nehezebb növelni a sűrűségét. A NAND sokkal sűrűbben pakolható és olcsóbban skálázható, de nem ugyanarra való, mint a rendszermemória. Az imec 3D CCD-koncepciója a NAND-féle vertikális rétegezést és a DRAM-hoz közelebb álló gyors, újraírható működést próbálja egyesíteni. A most bemutatott prototípus még nagyon korai állapotban van. Az imec szerint ez az első működő 3D megvalósításuk, egy három word-line-ból álló szerkezettel, amelynek vertikális IGZO-csatornái méretben már a 3D NAND-nál használt memórialyukakhoz hasonlíthatók. A töltések mozgatását 4 MHz feletti sebességgel demonstrálták, ami kutatási prototípusnál fontos lépés, de messze nem jelenti azt, hogy a technológia készen állna tömeggyártásra.
A szilícium helyett használt IGZO, vagyis indium-gallium-cink-oxid szintén kulcsszereplő. Ez az anyag alacsonyabb szivárgást, jobb adattartást és alacsonyabb hőmérsékletű gyártási lehetőséget ígér, ami különösen fontos, ha sok réteget kell egymás fölé építeni. A cél az, hogy a memóriasűrűség idővel a hagyományos DRAM korlátain túlra mehessen, miközben a gyártás inkább a 3D NAND költségszerkezetéhez közelíthet. Fontos viszont, hogy ez nem klasszikus DRAM-helyettesítő minden feladatra. Az imec szerint a 3D CCD memória nem bájtszinten címezhető, mint a DRAM, hanem blokkos adatelérést kínálna. Ez nem hátrány mindenhol: a modern AI-terheléseknél sokszor hatalmas adatblokkokat kell mozgatni, így egy ilyen memóriatípus különösen hasznos lehet pufferként, például CXL Type-3 eszközként, amelyet CPU-k, GPU-k és gyorsítók közösen érhetnek el.
A "korlátlan élettartam" kifejezéssel azért óvatosan kell bánni. Az imec korábbi anyagaiban az unlimited endurance inkább célként és elvárt tulajdonságként szerepel egy ilyen puffer memóriaosztályhoz, nem pedig úgy, mint amit már egy piackész chipben bizonyítottak. A NAND-hoz képest mindenképpen jobb tartóssági potenciálról beszélnek, de a valódi ipari élettartamot, a hőviselkedést, a sokrétegű skálázást és a rendszerszintű integrációt még bizonyítani kell.
Ha a technológia működőképesen skálázható, komoly jelentősége lehet az AI-infrastruktúrában. Ma a HBM és a DRAM az egyik legdrágább, legszűkösebb erőforrás az adatközpontokban, miközben a modellek egyre több memóriát és sávszélességet kérnek. Egy olcsóbban gyártható, nagy sűrűségű, gyors puffer memória enyhíthetné ezt a nyomást, és segíthetne abban, hogy a gyorsítók kevesebb időt töltsenek adatvárakozással.
A lényeg tehát nem az, hogy holnap ilyen memória kerülne az okostelefonokba vagy az AI-szerverekbe. Az imec most inkább egy irányt mutatott: a memóriaproblémát nem feltétlenül a meglévő DRAM vagy NAND végtelen csiszolásával lehet megoldani, hanem teljesen újraértelmezett architektúrákkal. Furcsa módon ehhez most egy olyan technológia adhat ötletet, amelyet a legtöbben inkább régi digitális kamerákból ismernek. Az AI jövőjét így akár egy elfeledettnek hitt képalkotó elv is segíthet gyorsabbá és olcsóbbá tenni.
