Štát testuje AI nástroj na „predpovedanie vraždy“

Vláda Spojeného kráľovstva pracuje na novom nástroji, ktorého cieľom je predpovedať, kto sa s najväčšou pravdepodobnosťou stane vrahom. Na takzvanom „projekte predpovede vrážd“ pracuje ministerstvo spravodlivosti a údajne použilo údaje od 100 000 do 500 000 ľudí. Cieľom projektu je využiť dátovú vedu a AI na boj proti zločinu, ale odborníci bijú na poplach – tento prístup označujú za desivý, dystopický a vyslovene nevedecký.

Projekt odhalila mimovládna organizácia s názvom Statewatch, ktorá tvrdí, že sú v ňom zahrnuté údaje od jednotlivcov, ktorí nespáchali žiadne zločiny. To znamená, že v algoritme môžu byť použité informácie od ľudí, ktorí požiadali políciu o pomoc, napríklad od obetí domáceho násilia. Úradníci to síce dôrazne popierajú, ale Statewatch predstavil časť dohody o zdieľaní údajov medzi ministerstvom spravodlivosti a manchesterskou políciou, ktorá to zrejme potvrdzuje.

Zmluva obsahuje časť s názvom „typ osobných údajov, ktoré sa majú zdieľať“. V tejto časti sú uvedené zdravotné markery, pri ktorých sa očakáva, že budú mať „významnú predikčnú silu“. Patria sem údaje o duševnom zdraví, závislosti, sebapoškodzovaní, riziku samovrážd, zraniteľnosti a invalidite. Prvý problém je, že to nefunguje. Výskum už viackrát ukázal, že algoritmické systémy na „predpovedanie“ zločinu sú chybné.

Druhý problém je, že tento typ nástroja možno použiť na zacielenie na konkrétne skupiny. Narastajú obavy, že nástroje AI môžu zvýšiť rasovú zaujatosť a viesť k neprimeranému dohľadu a dokonca aj krokom proti určitým komunitám. Niet pochýb o tom, že umelá inteligencia a algoritmy zohrávajú dôležitú úlohu v policajnej práci, ale iba vtedy, ak sú založené na solídnej vede.

Ak sú založené na pseudovede a chybných predpokladoch, výsledky budú skôr škodlivé. Hovorca ministerstva spravodlivosti sa vyjadril, že ide len o výskumný projekt. No vzhľadom na to, aký utajený je projekt, Statewatch je znepokojený. Hranica medzi výskumom a implementáciou politiky môže byť tenká. Kritici sa obávajú, že aj pilotné programy môžu položiť základy pre invazívnejšie stratégie sledovania.

Zdroj: zmescience.com.