Nainštalujte si a vyskúšajte lokálnu AI na svojom PC

Microsoft pod označením Phi-3 vytvoril niekoľko SLM (Small Language Model) čiže malých jazykových modelov, určených na lokálnu inštaláciu a použitie. Tieto modely sú open source a sú k dispozícii v Microsoft Azure AI Studio aj na portáloch Hugging Face a Ollama. {{BANNER|SIMPLE_BANNER_HOMEPAGE_2}} Lokálne modely AI môžu pracovať priamo v používateľovom zariadení, čo minimalizuje latenciu a maximalizuje bezpečnosť a súkromie. Pri ich používaní nedochádza k oneskoreniu ako pri používaní LLM (Large Language Model) čiže veľkých modelov, kde sa musí na získanie informácií používaných na generovanie odpovedí na zadania používateľov komunikovať s cloudom. Veľké jazykové modely (LLM), ako napríklad Chat GPT, sú vhodnejšie na scenáre, ktoré vyžadujú orchestráciu zložitých úloh, zahŕňajúcich pokročilé uvažovanie, analýzu údajov a pochopenie kontextu. Malé jazykové modely (SLM) ponúkajú potenciálne riešenia pre regulované odvetvia a sektory, ktoré sa stretávajú so situáciami, keď potrebujú vy ... Zobrazit Galériu