AI čoskoro „prekoná ľudský mozog“ a ľudstvo musí vytvoriť záložný „vypínač“
Analytik technológie AI Eitan Michael Azoff hovorí, že sme len pár krokov od prelomenia „neurálneho kódu“, ktorý umožňuje strojom vedome sa učiť tak ako ľudia. Sme teda na ceste k vytvoreniu špičkovej inteligencie, ktorá sa môže pochváliť vyššou kapacitou a rýchlosťou. Špecialista na AI to uvádza vo svojej novej knihe Towards Human-Level Artificial Intelligence: How Neuroscience can Inform the Pursuit of Artificial General Intelligence.
Podľa Azoffa je jedným z kľúčových krokov k odomknutiu „umelej inteligencie na ľudskej úrovni“ pochopenie „neurónového kódu“. Tento pojem opisuje spôsob, ako náš mozog kóduje zmyslové informácie a vykonáva kognitívne úlohy, ako je myslenie a riešenie problémov. Azoff hovorí, že jedným z rozhodujúcich krokov k vytvoreniu „umelej inteligencie na ľudskej úrovni“ je napodobnenie vedomia v počítačoch – pravdepodobne bez sebauvedomenia, podobne ako to zažívajú ľudia pri sústredení sa na úlohu.
Súčasná umelá inteligencia „nemyslí“ vizuálne. Modely veľkých jazykov, ako je GPT-4, dokážu spracovať a generovať text podobný ľudskému. Keďže vizuálne myslenie vzniklo skôr ako ľudský jazyk, Azoff verí, že pochopenie tohto procesu a následné modelovanie vizuálneho spracovania bude kľúčovým krokom. Analytik si nemyslí, že systém musí byť živý, aby mal vedomie. Jeho logika však spochybňuje spôsob fungovania umelej inteligencie.
Súčasné modely strojového učenia nemôžu existovať bez určitej miery účasti človeka, pretože musia byť neustále zásobované čerstvými a presnými údajmi. Samoučiaca sa umelá inteligencia, ktorá využíva svoje vlastné výstupy alebo výstupy iných modelov, neustále znižuje kvalitu svojich odpovedí. S týmto javom sa stretávame čoraz častejšie, pretože obsah vytvorený umelou inteligenciou zaplavuje internet a nachádza si cestu späť do súborov tréningových údajov.
Azoff pripúšťa aj možnosť zneužitia tejto technológie. „Kým nebudeme mať väčšiu dôveru v stroje, ktoré vyrábame, mali by sme zabezpečiť, aby sa vždy dodržiavali nasledujúce dva body,“ povedal Azoff. „Po prvé, musíme zabezpečiť, aby ľudia mali výhradnú kontrolu nad vypínačom. Po druhé, musíme vytvárať systémy umelej inteligencie s implantovanými pravidlami bezpečnosti správania.“
Umelá inteligencia sa však už teraz stáva nepopulárnou u spotrebiteľov, keďže veľké firmy ako Google a Meta naďalej napĺňajú existujúce služby funkciami AI. Meta pritom priznala, že svoju umelú inteligenciu zásobuje informáciami získanými z verejných profilov miliónov používateľov Facebooku a Instagramu. Používatelia s tým štandardne súhlasia, keď sa prihlásia na používanie služieb, a dobre skrytý formulár na odhlásenie sa vzťahuje len na tých, ktorí môžu predložiť presvedčivý právny argument na ochranu údajov.
A technologické firmy neplánujú v dohľadnom čase spomaliť. Napriek odporu Microsoft obnovil zavádzanie svojho virtuálneho asistenta Recall vybaveného AI. Vydanie bolo síce odložené, no nedávno spoločnosť oznámila, že tento nástroj bude dostupný na beta testovanie v októbri.
Program každých niekoľko sekúnd zachytí obrazovku používateľa a vytvorí knižnicu obsahu, v ktorej sa dá vyhľadávať a ktorú potom analyzuje umelá inteligencia. Očakáva sa, že tieto riziká sa budú s rozvojom umelej inteligencie len stupňovať, a keďže sa blížime k rozvoju inteligencie na úrovni presahujúcej ľudí, nepochybne to prinesie nové problémy.
Zdroj: the-sun.com.
Zdroj Foto: freepik.com.
