Existuje 70% šanca, že AI zničí alebo katastrofálne poškodí ľudstvo

V rozhovore pre The New York Times (NYT) bývalý výskumník OpenAI Daniel Kokotajlo obvinil spoločnosť, že ignoruje obrovské riziká, ktoré predstavuje umelá všeobecná inteligencia (artificial general intelligence – AGI). Najzaujímavejšie je však jeho tvrdenie, že šanca, že AI zničí ľudstvo, je asi 70-percentná.

Kokotajlo pre NYT uviedol, že po tom, ako sa v roku 2022 pripojil k OpenAI a bol požiadaný, aby predpovedal vývoj technológie, nadobudol presvedčenie, že nielenže priemysel dosiahne AGI do roku 2027, ale že existuje veľká pravdepodobnosť, že katastrofálne poškodí alebo dokonca zničí ľudstvo. Kokotajlo a jeho spoločníci, medzi ktorých patria bývalí a súčasní zamestnanci spoločností Google DeepMind a Anthropic, ako aj Geoffrey Hinton, „krstný otec AI“, si uplatňujú svoje „právo varovať“ verejnosť pred rizikami, ktoré AI predstavuje.

Kokotajlo bol natoľko presvedčený, že AI predstavuje pre ľudstvo obrovské riziko, že nakoniec osobne vyzval generálneho riaditeľa OpenAI Sama Altmana, že spoločnosť musí venovať viac času implementácii ochranných zábran, aby ovládla technológiu, namiesto toho, aby pokračovala v jej zlepšovaní. Zdalo sa, že Altman s ním v tom čase súhlasil, ale časom sa ukázalo, že len naoko. V apríli Kokotajlo odišiel z firmy, pričom v e-maile svojmu tímu oznámil, že „stratil dôveru, že OpenAI sa bude správať zodpovedne“, keďže sa naďalej snaží vytvoriť umelú inteligenciu na takmer ľudskej úrovni, na ktorú svet nie je pripravený.

„Sme hrdí na naše výsledky v poskytovaní najschopnejších a najbezpečnejších systémov umelej inteligencie a veríme v náš vedecký prístup k riešeniu rizík,“ uviedla spoločnosť vo vyhlásení po zverejnení tohto článku. „Súhlasíme s tým, že vzhľadom na význam tejto technológie je rozhodujúca dôsledná diskusia, a budeme pokračovať v spolupráci s vládami, občianskou spoločnosťou a ďalšími komunitami na celom svete.“

Zdroj: futurism.com.