NVIDIA Project DIGITS / Miniatúrny osobný superpočítač pre AI

NVIDIA na veľtrhu CES 2025 predstavila osobný superpočítač určený primárne pre dátových vedcov, výskumníkov a vývojárov v oblasti AI a, samozrejme, aj študentom, ktorí sa o túto oblasť zaujímajú.

Srdcom zariadenia je nový SoC (System on Chip) NVIDIA GB10 Grace Blackwell, ktorý poskytuje 1 petaflops výpočtového výkonu na vývoj, trénovanie, dolaďovanie a spúšťanie veľkých modelov AI.

Čip GB10 má grafický procesor NVIDIA Black­well s najnovšou generáciou jadier CUDA a piatou generáciou jadier Tensor Cores, ktoré sú pripojené prostredníctvom prepojenia medzi čipmi NVLink-C2C k vysokovýkonnému procesoru NVIDIA Grac, ktorý obsahuje 20 energeticky efektívnych jadier s architektúrou ARM. K energetickej úspornosti tohto čipu, a teda aj k možnosti zabudovať ho do miniatúrneho zariadenia, kde nie je miesto na robustnejší chladiaci systém, prispela spolupráca so spoločnosťou MediaTek, ktorá má s vývojom takýchto úsporných čipov dlhoročné skúsenosti. Každé zariadenie NVIDIA Project DIGITS má 128 GB koherentnej operačnej pamäte a až 4 TB úložného priestoru NVMe. Na takejto hard­vérovej zostave môžu vývojári spustiť veľké jazykové modely obsahujúce až 200 miliárd parametrov. Pomocou technológie NVIDIA ConnectX možno prepojiť dva superpočítače Project DIGITS a prevádzkovať modely až so 405 miliardami parametrov. Miniatúrny superpočítač využíva operačný systém NVIDIA DGX OS založený na Linuxe. Vytvorené, natrénované a doladené modely potom možno nasadiť a škálovať na NVIDIA DGX Cloud či iné cloudové platformy, prípadne do dátových centier. Umožňuje to architektúra Grace ­Blackwell a softvérová platforma NVIDIA AI Enterprise.

Vnutorné usporiadanie zariadenia

Používatelia Project DIGITS majú prístup k rozsiahlej knižnici softvéru NVIDIA AI na experimentovanie a prototypovanie vrátane vývojových prostredí, nástrojov na orchestráciu, frameworkov a modelov dostupných v katalógu NVIDIA NGC a na portáli NVIDIA Developer. Vývojári môžu modely doladiť pomocou frameworku NVIDIA NeMo, s využitím knižníc NVIDIA RAPIDS takisto môžu využívať frameworky typu PyTorch, prostredie Jupyter notebook a ďalší softvér bežiaci na Linuxe.

Na vytváranie aplikácií AI môžu používatelia využiť aj NVIDIA Blueprints a mikroslužby NVIDIA NIM, ktoré sú dostupné na výskum, vývoj a testovanie prostredníctvom NVIDIA Developer Programu. Keď sú aplikácie AI pripravené prejsť z vývoja do produkčného pro­stredia, licencia NVIDIA AI Enterprise poskytuje zabezpečenie na podnikovej úrovni, podporu a aktualizáciu softvéru NVIDIA AI.

Zariadenia Project DIGITS budú k dispozícii v máji 2025 s cenou od 3000 dolárov.