AI JE TROJSKÝ KŮŇ RISC-V DO DATACENTRA

Pokud bude v blízké době dominovat datové centrum specifické pro pracovní zátěž, mohl by RISC-V zazářit. I když je nejčastěji spojován s vestavěnými zařízeními, existuje tlak na používání RISC-V jako základu pro AI a cílené pracovní zátěže, což dává ISA odrazový můstek do mnohem větších systémů.

Zatím není pro RISC-V v datovém centru příliš hybná síla, ale mohl by sloužit jako základní motor pro různé akcelerátory. Například startup s čipem AI, Tenstorrent, založený svůj inferenční čip na RISC-V a mnohem ambicióznější projekt v Barcelonském superpočítačovém centru jej využije (prostřednictvím komerční entity RISC-V, SiFive) k vybudování domácího datového centra – z procesorů. k urychlovačům.

V době, kdy jsou možnosti výstavby nebo nákupu jader relativně neomezené, co bude dál s dosahem RISC-V do datových center? Mluvili jsme s Jamesem Priorem ze SiFive, který nám řekl, že je vysoce nepravděpodobné, že bychom v příštích pěti letech viděli end-to-end datové centrum RISC-V, ale určitě existuje velká příležitost pro vlastní akcelerátory, kde může překonat Arm, zejména v podmínky softwaru, nástrojů a podpory.

„Zaujímáme softwarový přístup k poskytování IP jader. Budeme vyvíjet software a nástroje vedle jader způsobem, který dává smysl programátorům, místo abychom říkali, tady je jádro, pojď na to.“ Dodává, že další rozdíl je v tom, že SiFive to dokáže, aniž by soutěžil se svými zákazníky, protože nejsou v oboru křemíku. „Máme několik rad, abychom umožnili partnerům a společnostem vyhodnotit, než postaví velký design. Akvizice Arm společnosti Nvidia nabrala trajektorii RISC-V a urychlila rozhodnutí – lidé přecházejí od otázky, zda by měli mít strategii RISC-V, k přemýšlení o tom, jaký je jejich plán právě teď. Pak můžeme vstoupit jako lídr komerčního RISC-V IP se zkušenostmi ve společném vývoji specifických architektur pro specifické potřeby.“

I když je většina komerčních RISC-V společnosti SiFive zabudována, za posledních šest let se jí podařilo zajistit více než 200 výher v designu u 80 společností, včetně sedmi z deseti nejlepších technologických společností s více než miliardou dodaných jader. "Ale jak rosteme a útočíme na aplikační jádro, přesouváme se do AI s novými produktovými řadami, které se zaměřují na obecnější zpracování a specifické funkce."

Ve skutečnosti se SiFive dívá na AI jako na trojského koně, který vstupuje do datového centra ve velkém počtu. Vyvinuli některé vlastní IP adresy, které mohou zákazníci použít k vytvoření svých vlastních akcelerátorů, což je přístup, který odpovídá pohledu SiFive na posun datového centra k více účelovému než obecnému účelu.

Pro ty, kteří vyvíjejí procesory s umělou inteligencí nové generace, Prior říká, že mít software a nástroje v procesoru specifickém pro aplikaci s vektorovými schopnostmi, které zvládnou moderní datové typy, je klíčové. Sladění tohoto s vlastním akcelerátorem AI pro před/po zpracování a matematikou AI je také flexibilnější, vzhledem k rychle se měnícímu modelovému prostoru AI. „V modelech umělé inteligence dochází k obrovskému množství odlivu, což je mnohem rychlejší než procesy vytváření křemíku, což znamená, že i když potřebujete vyhrazený kus křemíku, aby byla akcelerace efektivní, potřebujete také programovatelnost pro obecné účely v rámci nastaveného typu modelu.“

I když je umělá inteligence příjemným vstupním bodem k vítězům v designu datových center, Prior říká, že existují další příležitosti, na které se SiFive dívá, od okraje až po vrchol rackové sítě, z nichž všechny by mohly těžit z vyspělého ekosystému se společnou sadou programovacích nástrojů. .

„Když se podíváte na to, jak se x86 škálovalo od jednoduchých mikroarchitektur přes složité procesy mimo provoz až po vícejádrové, trvalo to dlouho. Arm too byl prodáván jako jádra, o kterých jste nikdy neslyšeli, ale byli obklopeni v kuchyni. Teď je to všudypřítomné, protože jsou v našich telefonech,“ odpovídá Prior na otázku, co RISC-V nezdá se mít úplně stejné nohy jako Arm.

„Ta zabijácká aplikace se blíží a bude v AI a akcelerátorech nebo dokonce v účelových systémech. Když se podíváte na to, jak se mění datové centrum, lidé říkají, že nepotřebují nevýraznou hromadu jader, potřebují všechny výpočty vyvážené v patici, a to je místo, kde RISC-V může přinést hodnotu – i když hlavní OS na procesor neběží na jádře RISC, je to to, co dělá zrychlenou práci hodnoty.