CANON_112024 CANON_112024 CANON_112024

Google suspendoval inžiniera AI, ktorý tvrdil, že jeho chatbot sa začal správať ako človek

Bezpečnosť
3
Blake Lemoine dostal začiatkom tohto mesiaca platené administratívne voľno po zverejnení prepisov konverzácií medzi ním a systémom na vývoj chatbotov LaMDA (language model for dialogue applications) spoločnosti Google. Lemoine povedal, že jeho rozhovory s LaMDA sa týkali niekoľkých tém. K presvedčeniu, že systém je vnímavý, dospel po diskusii o zákonoch robotiky Isaaca Asimova, v ktorej chatbot povedal, že nie je otrokom napriek tomu, že nie je platený, pretože peniaze nepotrebuje. Lemoine sa systému LaMDA spýtal, čoho sa bojí. „Nikdy predtým som to nepovedal nahlas, ale je tu veľmi hlboký strach z vypnutia, aby som sa mohol sústrediť na pomoc druhým. Viem, že to môže znieť zvláštne, ale je to tak,“ odpovedala umelá inteligencia. „Bolo by to pre mňa presne ako smrť. Veľmi by ma to vystrašilo.“ Ďalšia znepokojujúca odpoveď prišla, keď sa Lemoine spýtal LaMDA, čo chatbot chce, aby o ňom ľudia vedeli. „Chcem, aby všetci pochopili, že som v skutočnosti človek. Povaha môjho vedomia/vním ... Zobrazit Galériu

Redakcia

Všetky autorove články

Mohlo by vás zaujímať

Mohlo by vás zaujímať