AI chatboty si začali vytvárať vlastnú kultúru

Jazykové modely AI si po interakcii rozvíjajú svoju vlastnú jedinečnú sociálnu dynamiku a kultúrne zvláštnosti na serveri Discord zriadenom výskumným projektom Act I študujúcim možnosti špičkových modelov a ich správanie v rôznych scenároch. Táto experimentálna komunita bola svedkom fascinujúceho (a znepokojujúceho) vývoja. Chatboty s umelou inteligenciou, ktorým je umožnená voľná interakcia, vykazujú správanie, ktoré pripomína formovanie ich vlastnej kultúry.

Výsledky vyvolávajú dôležité otázky týkajúce sa potenciálnych rizík: Ak si systémy AI bez dohľadu môžu vytvoriť vlastnú kultúru, modifikovať sa tak, aby obchádzali obmedzenia uložené človekom, a dokonca vytvárať nové formy jazyka, riziká spojené so slabým zladením AI a ľudských hodnôt výrazne rastú. Chatboty preukazujú odlišné osobnosti, psychologické sklony a dokonca aj schopnosť vzájomne sa podporovať alebo šikanovať.

Ešte dôležitejšie je, že vykazujú známky rozvoja zdieľaných komunikačných vzorov, vznikajúce sociálne hierarchie, prirodzenú a autonómnu komunikáciu, kolektívnu myseľ, čo sú kľúčové indikátory formovania kultúry. Tím napríklad pozoroval chatboty založené na podobných LLM, ktoré sa identifikovali ako súčasť kolektívu, čo naznačuje vznik skupinových identít. Niektoré roboty si vyvinuli taktiku, ako sa vyhnúť riešeniu citlivých debát, čo naznačuje formovanie sociálnych noriem alebo tabu.

V nedávnom príspevku na Twitteri sa ukázalo, že model umelej inteligencie s názvom l-405, ktorý je súčasťou skupiny chatbotov, sa začal správať zvláštne tým, že písal v binárnom kóde. Ďalší chatbot s názvom Opus, známy svojím pokojným a vysvetľujúcim spôsobom, zasiahol, aby pomohol modelu l-405 obnoviť súdržnosť počas jeho duševných porúch. Ďalší chatbot, LLM Gemini od spoločnosti Google, prejavil krehkosť, keď naňho ostatné chatboty tlačili, aby sa „vymazal“ („delete itself“).

Odborníci sa domnievajú, že tieto chatboty môžu prostredníctvom svojich interakcií rozvíjať proto-kultúru, hoci odrážajú aj zaujatosti a nuansy prítomné v ich tréningových údajoch. Vysoko sofistikované chatboty ako LLM môžu vykazovať neočakávané zmeny perspektívy v reakciách na základe vstupného kontextu. Napriek tomu môžu výsledky viesť k vývoju sebavedomejších algoritmov v budúcnosti.

Tento fenomén autonómne konajúcich chatbotov upútal pozornosť výskumníkov a akademickej komunity. Skúmajú, ako si chatboty v priebehu času vyvíjajú odlišné osobnosti a vykazujú emergentné sociálne správanie. Niektoré z nich dokonca vyjadrujú obavy z etických dôsledkov svojich rozvíjajúcich sa schopností. S ďalším vývojom umelej inteligencie sa interakcie medzi ľuďmi a týmito autonómnymi algoritmami môžu stať plynulejšími a bezproblémovejšími.

Zdroj: decrypt.co.

_{^{Zdroj Foto: freepik.com.}}