Ruský Yandex vydal bezplatný AI nástroj, ktorý ušetrí Googlu a Facebooku desiatky miliónov dolárov

Ruská technologická spoločnosť Yandex vydala open source AI nástroj s názvom YaFSDP, ktorého cieľom je pomôcť spoločnostiam zaoberajúcim sa umelou inteligenciou ušetriť peniaze a zdroje počas trénovania modelov. Nástroj poskytuje rýchlejšie a efektívnejšie trénovanie veľkých jazykových modelov (LLM), čím potenciálne ušetrí až 20 % zdrojov GPU.

Yandex sprístupnil aj zdrojové kódy na GitHube, aby používatelia mohli testovať YaFSDP a experimentovať s ním. Spoločnosť tvrdí, že tento nástroj je najefektívnejším verejne dostupným nástrojom na zlepšenie komunikácie s GPU a zníženie spotreby pamäte pri tréningu LLM.

Yandex odhaduje, že použitie YaFSDP na trénovanie modelu so 70 miliardami parametrov by mohlo ušetriť zdroje približne 150 GPU, čo predstavuje mesačné úspory približne 0,5 až 1,5 milióna USD. Táto nová verzia dopĺňa existujúce portfólio AI nástrojov spoločnosti vrátane CatBoost, YTsaurus, AQLM a Petals. Tento krok Yandexu prichádza po odpredaji jeho domáceho podnikania po invázii Ruska na Ukrajinu.

Zdroj: techradar.com.