Google vyvíja „veľké červené tlačidlo“ na vypnutie umelej inteligencie, ak sa vzoprie ľuďom

Mnohé známe osobnosti vrátane Elona Muska a Stephena Hawkinga varovali pred ničivými dôsledkami vymknutia sa umelej inteligencie spod kontroly. A zdá sa, že myšlienka, že by nás raz roboti a algoritmy mohli prestať poslúchať, nedáva spávať ani tímu výskumného laboratória Deep Mind, patriaceho Googlu. Preto v spolupráci s vedcami z Oxfordskej univerzity pracuje na spôsobe, ako zabrániť „robokalypse“ a v prípade potreby umelú inteligenciu „zabiť“. V dokumente PDF Safely Interruptible Agents, publikovanom na webovej stránke Machine Intelligence Research Institute (MIRI), výskumníci vysvetľujú, že je „nepravdepodobné, že by sa umelá inteligencia správala po celý čas optimálne“. Preto je podľa nich dôležité, aby ľudský operátor mohol „stlačiť veľké červené tlačidlo a zabrániť robotovi pokračovať v škodlivej postupnosti akcií“.  Ako príklad uvádzajú umelú inteligenciu, ktorá sa v roku 2013 naučila hrať Tetris, a aby zabránila prehre, zastavila hru. Deep Mind v podstate vyvinul framework, k ...