Prečo Pentagon odmieta využívať ChatGPT

ChatGPT od Open AI a jemu podobné nástroje tento rok dominovali titulkom novín. Nedávne správy však odhalili, prečo Pentagón presadzuje úplne iné prístupy k umelej inteligencii. Vojenskí velitelia totiž potrebujú nástroje, ktorým môžu dôverovať. Neurónová sieť v srdci AI je poháňaná zbieraním kúskov informácií z miliónov webových stránok. Hoci spoločnosť Open AI nezverejnila, aké webové stránky použila na trénovanie svojich nástrojov, nedávne vyšetrovanie denníka Washington Post preskúmalo 15 miliónov webových stránok, ktoré výskumníci použili na trénovanie podobných modelov. Nie je prekvapujúce, že táto veľká masa údajov obsahuje veľa vecí, ktoré nie sú pravdivé, preto modely generatívnej AI často klamú. Aj keby ste trénovali veľké jazykové modely na starostlivo vybranom súbore webových stránok, stále môžete naraziť na „umelé halucinácie“ (fenomén, keď stroj, napríklad chatbot, generuje zdanlivo realistické zmyslové zážitky, ktoré nezodpovedajú žiadnym vstupom z reálneho sveta). Amer ...