AI na lokálnom PC

Najznámejšie modely LLM (Large Language Model), napríklad ChatGPT alebo Google Gemini, bežia v dátových centrách s tisíckami serverov, z ktorých každý má niekoľko desiatok špeciálnych grafických kariet špecializovaných na výpočty súvisiace so strojovým učením. Inak povedané, tieto modely sú príliš veľké na to, aby sa dali spustiť na bežnej zostave serverov či dokonca na počítači. {{BANNER|SIMPLE_BANNER_HOMEPAGE_2}} Vývoj hardvéru ide dopredu exponenciálnym tempom a o pár rokov si pokročilejšie modely AI budeme môcť skutočne nainštalovať na lokálne počítače. Relatívne pokročilé modely typu Llama-2 si na lokálne počítače môžete nainštalovať už teraz. Open source LLM (Large Language Model) model LLama-2 sprístupnila v júli 2023 spoločnosť Meta, ktorá prevádzkuje okrem iného Facebook a Instagram. Model je k dispozícii zadarmo nielen na vzdelávanie a výskum, ale aj na komerčné použitie. Model Llama 2 bol trénovaný na 2 biliónoch (bilión = 1012 čiže milión miliónov) tokenov údajov z verej ...