Aká je energetická náročnosť AI?

Umelá inteligencia sa stala neodmysliteľným fenoménom, pričom jej nástup bol rýchlejší než najsmelšie predpovede analytikov.  Aj laik si dokáže predstaviť, že natrénovanie modelov neurónových sietí aj generovanie odpovedí na zadania používateľov si vyžaduje obrovskú výpočtovú silu. Okrem investičných nákladov si hardvérová infraštruktúra na pozadí vyžaduje aj obrovské prevádzkové náklady, hlavne čo sa týka spotreby energie. {{BANNER|SIMPLE_BANNER_HOMEPAGE_2}}  Facebook zverejnil, že pri trénovaní svojich modelov AI LLama 2, ktoré v mnohých ohľadoch prekonávajú základný model GPT-3, využil 2048 grafických kariet NVIDIA A100–80 GB počas 5 mesiacov. Spotreba energie sa odhaduje na 2 638 000 KWh. Na ilustráciu, rovnaké množstvo v priemere za rok spotrebuje 1650 ľudí vrátane vykurovania a ohrevu teplej úžitkovej vody. Pri výrobe takéhoto množstva energie sa vyprodukovalo 1015 ton CO2. OpenAI údaje o spotrebe energie na natrénovanie modelu LLM ChatGPT-4 nezverejnila, takže môžeme len odha ...