Umelá inteligencia za 6 hodín vymyslela 40 000 biologických zbraní

Špičkové schopnosti umelej inteligencie znamenajú, že systémy AI sú schopné včas rozpoznať choroby, riadiť chemické reakcie a vysvetliť niektoré záhady vesmíru. Nový výskum však zdôrazňuje, ako ľahko môžu byť modely AI trénované na škodlivé účely. Konkrétne v tomto prípade išlo o navrhovanie hypotetických agentov biologických zbraní. Skúšobná prevádzka využívajúca existujúcu AI identifikovala 40 000 takýchto chemikálií pre biologické zbrane v priebehu iba šiestich hodín. Tím uskutočnil test na medzinárodnej bezpečnostnej konferencii a uviedol do prevádzky systém umelej inteligencie s názvom MegaSyn nie v jeho bežnom prevádzkovom režime, ktorým je zisťovanie toxicity v molekulách a ich eliminácia. Naopak, toxické molekuly sa mali ponechať. Navyše model bol trénovaný aj na to, aby tieto molekuly spojil do kombinácií, čím sa krátkom čase vytvorilo množstvo hypotetických biologických zbraní. Výskumníci vyškolili umelú inteligenciu najmä pomocou molekúl z databáz molekúl podobných drogám, ... Zobrazit Galériu