CANON_112024 CANON_112024 CANON_112024

Je pre AI dôležitejšie GPU alebo NPU?

0
Väčšina AI úloh sa v súčasnosti realizuje na výkonnom hardvéri v cloude a po­užívateľom sa v počítači, či smartfóne ­zobrazí výsledok. Takéto riešenia však majú nevýhody, hlavne čo sa týka latencie, teda času na odoslanie zadania do cloudu a následné zobrazenie výsledkov, ako aj nutnosti posielania údajov v zadaní mimo zariadenia po­užívateľa. {{BANNER|SIMPLE_BANNER_HOMEPAGE_2}} AI v cloude sa hodí na zadania typu: ­„Potrebujem článok na tému xxx“, „Napíš mi text prejavu pri príležitosti yyy“ a podobne. Vtedy latencia čiže oneskorenie niekoľko sekúnd, prípadne aj niekoľko minút neprekáža. Oneskorenie je však veľký problém pri úlohách v reálnom čase. Napríklad pri simultánnom preklade telefonického hovoru. Riešením je model AI bežiaci priamo na vašom zariadení. Výkon a pamäťová kapacita procesorov a grafických čipov nielen v počítačoch a notebookoch, ale aj v smartfónoch sú už v súčasnosti dostatočné na jednoduchšie AI úlohy, pričom sa predpokladá, že výkon aj pamäťová kapacita budú r ...

Ľuboslav Lacko

Všetky autorove články

Mohlo by vás zaujímať

Mohlo by vás zaujímať