Hlúpa umelá inteligencia predstavuje väčšie riziko ako silná

Vzostup umelej inteligencie (UI) nezostal bez povšimnutia a podnietil veľa diskusií. V nich často dominujú tí, ktorí sa umelej inteligencie boja. Tieto skupiny siahajú od výskumníkov etiky UI, ktorí sa obávajú zaujatosti, až po racionalistov uvažujúcich o udalostiach spôsobujúcich zánik ľudstva. Ich obavy sa zvyčajne točia okolo UI, ktorá je ťažko pochopiteľná alebo príliš inteligentná na to, aby sa dala ovládať, čo v konečnom dôsledku znamená, že nebude sledovať ciele nás, jej tvorcov. Prívrženci UI zvyčajne odpovedajú technooptimizmom, tvrdia, že druhá strana sa vo veľkej miere mýli, a poukazujú na údaje týkajúce sa dobrej práce, ktorú pre nás umelá inteligencia doteraz vykonala. To podľa nich naznačuje, že bude pre nás prospešná aj v budúcnosti. Oba tieto názory prehliadajú podstatu. Forma nadľudskej silnej UI tu ešte nie je a pravdepodobne ešte nejaký čas nebude. Namiesto toho čelíme väčšiemu riziku, ktoré je tu už dnes a stále sa zhoršuje: nasadzovanie v mnohých oblastiach „nedo ...