AI bias: Ako vzniká predpojatosť AI a prečo je ťažké opraviť ju

Predpojatosť umelej inteligencie (AI bias) sa môže prejaviť v mnohých štádiách procesu hlbokého učenia a štandardné postupy v počítačovej vede nie sú určené na to, aby to zistili. Veľká väčšina aplikácií AI dnes vychádza z kategórie algoritmov známych ako hlboké učenie (deep learning), ktoré nachádzajú vzory v údajoch. Tieto algoritmy však môžu svojou predpojatosťou ovplyvniť život ľudí tým, že vnesú nespravodlivosť do mnohých oblastí – od zamestnávania až po trestnoprávny systém. No nestačí len vedieť, že táto predpojatosť existuje. Ak ju chceme napraviť, musíme predovšetkým pochopiť mechanizmus toho, ako vzniká. Ako dochádza k AI biasu? Často si predpojatosť AI vysvetľujeme tým, že nedostáva nestranné údaje pri výcviku. Realita je však trochu zložitejšia. Skresľovanie sa môže prejaviť už dlho pred zhromažďovaním údajov a v mnohých ďalších štádiách procesu hlbokého učenia. Zameriame sa na tri kľúčové etapy. Rámcovanie problému. Pri vytváraní modelu hlbokého učenia sa musia vedci ro ...