GROQ: Nová generatívna AI vyhráva nad ChatGPT s veľkou prevahou

Spoločnosť Groq, nový konkurent ChatGPT, predstavila svoj model AI na spracovanie jazyka (Language Processing Unit – LPU). Táto technológia sa môže pochváliť rýchlosťou takmer 500 tokenov za sekundu. Stanovuje nové meradlo rýchlosti a efektívnosti digitálneho spracovania. LPU vyniká tým, že znižuje latenciu na minimum a ponúka doteraz nevídanú rýchlosť služieb.

Táto inovácia je odpoveďou spoločnosti Groq na rastúci dopyt po rýchlejších a efektívnejších spracovateľských jednotkách, ktoré dokážu zvládnuť komplexné potreby LLM bez toho, aby sa „zapotili“. Prvá verejná ukážka systému Groq ukázala pozoruhodné výsledky. Pri zadaní výzvy model vygeneruje odpoveď okamžite. Odpoveď je navyše vecná a obsahuje stovky slov. V porovnaní s ChatGPT od OpenAI vyhráva Groq s veľkou prevahou. 

LPU Groq je navrhnutý tak, aby prekonal obmedzenia starších technológií CPU a GPU. Tradičná architektúra spracovania často zaostáva, keď čelí veľkým výpočtovým nárokom LLM. Groq používa pre LLM novú architektúru TPS (Tensor Streaming Processor). Vďaka prísľubu rýchleho odvodzovania a zníženej spotreby energie sú TPS a LPU pripravené zmeniť spôsob, ako pristupujeme k spracovaniu údajov.

LPU je vytvorený na deterministické výpočty umelej inteligencie. Odchyľuje sa od tradičného modelu SIMD. Tento posun zvyšuje výkon a znižuje spotrebu energie. Vďaka tomu je LPU ekologickejšou voľbou do budúcnosti. LPU vynikajú energetickou účinnosťou. Prekonávajú GPU tým, že sa zameriavajú na zníženie réžie a maximálne využitie každého wattu. Tento prístup je prospešný pre našu planétu.

Zároveň ponúka nákladovo efektívne riešenie pre podniky aj vývojárov. Vďaka LPU Groq sa široká škála aplikácií založených na LLM dočká výrazného zlepšenia. LPU ponúka robustnú alternatívu k veľmi žiadaným grafickým procesorom NVIDIA. Zlepšuje reakcie chatbotov, vytvára personalizovaný obsah a mnoho ďalšieho. 

Zdroj: cryptopolitan.com.