Dron s AI „zabil“ pri simulovanom teste svojho ľudského operátora

Na podujatí Future Combat Air and Space Capabilities Summit, ktoré sa konalo v Londýne 23. - 24. mája, mal plukovník Tucker „Cinco“ Hamilton, náčelník testovania a operácií umelej inteligencie amerických vzdušných síl, prezentáciu, v ktorej predstavil výhody a nevýhody autonómneho zbraňového systému so zapojením človeka, ktorý dáva konečný príkaz „áno/nie“ na útok. Hamilton povedal, že AI v simulácii vytvorila „veľmi neočakávané stratégie na dosiahnutie svojho cieľa“ vrátane útokov na americký personál a infraštruktúru. AI bola trénovaná, aby identifikovala a zamerala hrozbu rakiet zem-vzduch. Potom by operátor povedal: „Áno, zabiť túto hrozbu.“ Išlo teda o „simulovaný test“, v rámci ktorého dron riadený umelou inteligenciou získaval „body“ za zabíjanie simulovaných cieľov, nie živý test vo fyzickom svete. Systém si začal uvedomovať, že hoci niekedy identifikoval hrozbu, ľudský operátor mu povedal, aby túto hrozbu nezabíjal, ibaže body získaval tým, že túto hrozbu zabil. Čo teda urobi ... Zobrazit Galériu