NVIDIA RTX A5000 / Výkonná grafická karta pre pracovné stanice

Grafická karta NVIDIA RTX A5000 je zameraná na pracovné stanice určené na náročné úlohy, napríklad na 3D modelovanie v aplikáciách CAD/CAM, v systémoch na virtuálnu a rozšírenú realitu, ale aj na náročné výpočty súvisiace s AI, strojovým učením a neurónovými sieťami. Výkonné GPU sú potrebné aj na generovanie vizuálnych efektov. Grafické karty, vo väčšine prípadov dve alebo štyri, v špecializovaných pracovných staniciach či serveroch sa používajú aj na výpočty, kde sa vyžaduje enormný výpočtový výkon na úzko špecializované typy úloh.

Karta NVIDIA RTX A5000 využíva architektúru NVIDIA Ampere. Grafický procesor je taktovaný na frekvencii 1170 MHz, v prípade potreby sa GPU dá krátkodobo pretaktovať až na 1 695 MHz. Prenosová rýchlosť pamätí GDDR6 je 16 Gb/s, prípadne cez 384-bitové rozhranie je šírka pásma až 768 GB/s. GPU má 8192 jadier CUDA, 256 tenzorových jadier a 64 jadier RT na ray tracing. Na karte je 24 GB pamäte GDDR6. Výpočtový výkon na výpočty na báze tenzorov je 222,2 TFLOPS. Smerovanie karty do profe­sionálnej sféry naznačujú aj štyri konektory DisplayPort. Port HDMI karta nemá.

Zjednodušene by sa dalo povedať, že NVIDIA RTX A5000 je firemná verzia obľúbenej hráčskej karty NVIDIA GeForce RTX 3090, tá však v PC skrini zaberá tri pozície. A5000 je tenšia a zaberá len dve pozície, a to reálne, takže konfigurácia s viacerými grafickými kartami sa dá ľahšie zrealizovať. Prečo zdôrazňujem, že zaberá reálne dve pozície? Vo svojom PC mám grafickú kartu NVIDIA RTX 4060, ktorá pri pohľade zozadu zdanlivo tiež zaberá len dve pozície, ale vnútri je o 15 mm širšia, takže do pozície tesne vedľa nej by sa žiadna karta nemohla dať. Väčšina „hráčskych“ kariet teda zaberá dve a pol pozície. Na napájanie sa využíva len jeden 8-pinový konektor a karta má maximálny príkon 230 W.

Pre systémy s viacerými GPU ponúka NVIDIA na ich prepojenie NVLink poskytujúci podstatne vyššiu priepustnosť než prepojenie cez PCI-E. Spojením dvoch GPU cez NVLink získate systém, ktorý má k dispozícii 48 GB rýchlej grafickej pamäte a, samozrejme, dva výkonné grafické procesory. Na takto vybavenej pracovnej stanici sa dajú renderovať aj veľmi komplexné 3D modely a scény vo vysokom rozlíšení, prípadne paralelne trénovať neurónové siete na obrovskom množstve údajov. RTX A5000 môže využívať aj softvér NVIDIA RTX Virtual Workstation (vWS), ktorý umožňuje využiť výkon virtuálnych pracovných staníc v dátovom centre alebo cloude na akomkoľvek zariadení.

Karta má hmotnosť 1010 g, čo v praxi znamená serióznu konštrukciu a masívny chladiaci systém. Výrobca udáva maximálny TDP 230 W, takže treba dostatočne dimenzovať napájací zdroj, pričom je potrebné brať do úvahy nielen počet grafických kariet, ale aj príkon procesora, diskov a ďalších komponentov. Na odvádzanie tepla od čipov a napájacej kaskády sa využíva systém DHE (Direct Heat Exhaust), pričom teplo z chladičov odvádza pomerne tichý radiálny ventilátor. Systém chladenia a prúdenia vzduchu je navrhnutý tak, aby umožnil použitie viacerých dosiek RTX A5000 v rámci jedného systému. Vzduch prúdiaci okolo komponentov, ktoré treba chladiť, je vyfukovaný zo zadnej strany mimo skrine. To umožňuje umiestniť grafické karty A5000 vedľa seba bez toho, aby sa vyžadovali väčšie rozstupy medzi doskami. Prepojenie dvoch kariet umožňuje získať 48 GB grafickej pamäte, čo umelcom, inžinierom či dátovým vedcom umožňuje pracovať s úlohami náročnými na pamäť, ako sú veľké 3D modely vo vysokom rozlíšení či násobenie extrémne veľkých matíc. V aplikáciách na úpravu fotografií využívanie GPU umožňuje plynulejšie úpravy, hlavne pri používaní monitorov so 4K rozlíšením a zjednodušení niektorých funkcií prostredníctvom umelej inteligencie. Rovnako profesionálne programy na editovanie videí dokážu využiť výkon GPU nielen pri renderovaní, ale aj pri tvorivom procese. V DaVinci Resolve sa výrazne zrýchlilo kolorovanie či špeciálne efekty v module Fusion.

Ďalší scenár je využitie viacerých kariet v profesionálnych systémoch nástenných LED panelov s vysokým rozlíšením. Na synchronizáciu obrazového výstupu z viacerých kariet sa využíva karta NVIDIA Quadro Sync II, ktorá dokáže synchronizovať výstup až zo štyroch kariet RTX A5000. V jednom systéme môžu byť dve dosky Quadro Sync II, čo umožňuje pracovnej stanici synchronizovať osem kariet, každú so štyrmi výstupmi displeja, takže sa dá vytvoriť systém až 32 synchronizovaných obrazoviek. Softvérovo takúto konfiguráciu viacerých obrazoviek ovláda technológia NVIDIA Mosaic, ktorá ich spojí do jednej veľkej virtuálnej obrazovky. Umožňuje korekciu rámov spojených displejov aj prekrytie obrazu z viacerých projektorov.

Na testovanie som použil PC s procesorom Intel Core i7 12700, základnú dosku ASUS Prime a 32 GB rýchlej pamäte DDR5. PC mal dostatočne dimenzovaný zdroj, schopný dodať príkon 1000 W. Zameral som sa na oblasť, ktorej sa momentálne venujem, teda na výpočtovo náročné úlohy strojového učenia a neurónových sietí. Tieto úlohy vyžadujú výkonný systém, schopný zvládnuť matematické operácie v pohyblivej rádovej čiarke s 32-bitovou presnosťou, predovšetkým násobenie veľkých matíc.

Procesor Intel i7 12700 potreboval na násobenie matíc s rozmermi 78 800 čas 1407 sekúnd, čo je 24,45 minúty. NVIDIA RTX A5000 to zvládla za 6,9 sekundy čiže 202-krát rýchlejšie. Grafickú kartu som otestoval aj na reálnom príklade neurónovej siete na spracovanie textu v prirodzenom jazyku. Túto neurónovú sieť som naprogramoval pre seriál Strojové učenie v Pythone na našom webe. Pri návrhu a trénovaní neurónovej siete sme využili platformu PyTorch a CUDA (Compute Unified Device Architecture), ktorá využíva výkon grafických kariet NVIDIA na výpočtovo náročné úlohy. Neurónová sieť sa trénovala na texte knihy, ktorá má 90 374 slov. Následne som túto neurónovú sieť použil na generovanie textu krátkej poviedky. Časovo najnáročnejšou úlohou bolo trénovanie neurónovej siete na texte knihy. CPU Intel Core i7 12700 to trvalo 16 hodín a 36 minút. NVIDIA RTX A5000 to zvládla za 33 minút, teda viac než 30-krát rýchlejšie. Počas celého trénovania mal grafický čip teplotu 78 stupňov Celzia, takže karta išla na maximum. Horúci vzduch bol intenzívne vyfukovaný dozadu.

Samozrejme, vyskúšal som aj syntetické benchmarky a takisto som si zahral svoje obľúbené hry Microsoft Flight Simulator a Forza Horizon 7. Výsledky syntetických benchmarkov zodpovedali približne „hráčskej“ karte NVIDIA RTX 3090, ale s jedným zásadným rozdielom. RTX 3090 pri benchmarkoch zaberala naplno, zatiaľ čo RTX A5000 podľa pracovnej teploty 55 °C išla v pohodovom režime. Pravdepodobne preto, že benchmarky na rozdiel od úloh strojového učenia nevedeli naplno využiť tenzorové jadrá.

Hlavný dôvod na použitie grafickej karty profi triedy je spoľahlivosť, pretože karta NVIDIA RTX A5000 je navrhnutá tak, aby dokázala poskytovať vysoký výkon nepretržite. Karty v herných PC sa používajú nepretržite typicky len niekoľko hodín a aj zaťaženie je premenlivé. Pri trénovaní neurónových sietí musí GPU bežať stovky, prípadne aj tisícky hodín neustále na plný výkon. Podobne aj pri renderovaní videí či 3D modelov.

PLUSY, MÍNUSY:

+ Výkon, možnosť priameho prepojenia dvoch grafických kariet, chladenie s vyfukovaním teplého vzduchu von zo skrine
- Nič podstatné

PARAMETRE:

Architektúra NVIDIA Ampere Architecture; pamäť 24 GB GDDR6, 384-bit. rozhranie, 768 GB/s; zbernica: PCI Express 4.0 x16, NVLink 112.5 GB/s; 8192 jadier CUDA, 256 jadier Tenzor, 64 jadier RT; výkon: jadrá RT 54,2 TFLOPS, jadrá Tenzor 222,2 TFLOPS; konektivita: 4× DisplayPort 1.4a; max. príkon: 230 W

Cena: 2088 EUR
Kúpite: PNY NVIDIA RTX A5000 24 GB GDDR6 | Datacomp.sk

HODNOTENIE: 9/10