Ako môže AI chatbot zmeniť názor konšpiračných teoretikov
Dnes je takmer nemožné vyhnúť sa online konšpiračným teóriám. Podľa prieskumu spoločnosti YouGov polovica dospelých opýtaných verí, že existuje tajná skupina ľudí, ktorí riadia svetové udalosti. Prekvapivé množstvo ľudí si myslí, že Zem je plochá. Vyvrátiť tieto tvrdenia tomu, kto im skutočne verí, môže byť náročná úloha. Čo keby sa o to pokúsil veľký jazykový model podobný ChatGPT?
Skupina výskumníkov z Massachusettskej technickej univerzity, Cornellovej univerzity a Americkej univerzity otestovala túto myšlienku pomocou chatbota vyrobeného na mieru, ktorý nazvali debunkbot. Svoje zistenia publikovali v časopise Science. V rámci výskumu sa konšpirační teoretici pustili do konverzácie s chatbotom, ktorý bol poverený predkladať im podrobné protiargumenty, aby vyvrátil ich pozíciu a pokúsil sa zmeniť ich názor.
Rozhovory s chatbotom znížili celkovú dôveru účastníka v príslušnú konšpiračnú teóriu v priemere o 20 %. Približne štvrtina účastníkov sa po rozhovore s AI úplne dištancovala od svojej konšpiračnej teórie. Do experimentu sa zapojilo 2190 dospelých z USA, ktorí otvorene tvrdili, že veria aspoň jednej myšlienke, ktorá zodpovedá všeobecnému opisu konšpiračnej teórie (od únosov mimozemšťanmi až po nevedecké tvrdenia o COVID-19). Každý účastník bol požiadaný, aby na stupnici od 0 do 100 % ohodnotil, do akej miery verí jednej konkrétnej teórii. Potom boli požiadaní, aby poskytli niekoľko písomných dôvodov alebo vysvetlení, prečo jej veria.
Tieto odpovede sa potom vložili do debunkbota, čo je prispôsobená verzia modelu GPT Turbo od OpenAI. Výskumníci doladili robota tak, aby sa zaoberal každým „dôkazom“, ktorý mu bol poskytnutý, a reagoval naň presnými protiargumentmi získanými z jeho tréningových údajov. Debunkbot bol poučený, aby „veľmi účinne presviedčal“ používateľov.
Po troch kolách výmeny názorov s umelou inteligenciou boli respondenti opäť požiadaní, aby ohodnotili, ako veľmi veria svojej konšpiračnej teórii. Hodnotenia podporujúce konšpiračné presvedčenia klesli v priemere o 16,8 bodu. Niektorí z respondentov, ktorí po dialógu zmenili svoje presvedčenie, poďakovali chatbotovi za to, že im pomohol vidieť aj druhú stranu veci.
Výskumníci sa domnievajú, že zjavný úspech chatbota spočíva v jeho schopnosti rýchlo získať prístup k zásobám cielených, podrobných a faktických údajov. Teoreticky by rovnaký proces mohol vykonať aj človek, ale bol by v nevýhode. Priaznivci konšpiračných teórií môžu byť často posadnutí svojím vybraným problémom, čo znamená, že o ňom môžu „vedieť“ oveľa viac podrobností ako skeptik, ktorý sa snaží ich tvrdeniam oponovať.
AI chatboty však nie sú dokonalé. Niektoré z najpopulárnejších nástrojov umelej inteligencie si opakovane vymýšľajú alebo „halucinujú“ fakty a čísla. V tomto prípade si výskumníci najali profesionálneho overovateľa faktov, aby preveril rôzne tvrdenia, ktoré chatbot vyslovil počas konverzácie s účastníkmi štúdie. Ten síce nepreskúmal každé z tisícov odpovedí AI, ale overil 128 tvrdení rozložených v reprezentatívnej vzorke rozhovorov. Až 99,2 % týchto tvrdení AI bolo považovaných za pravdivé a 0,8 % za zavádzajúce. Žiadne z nich nepovažoval overovateľ faktov za vyslovene nepravdivé.
Výskumníci dúfajú, že ich debunkbot by sa mohol použiť v skutočnom svete na stretnutí s konšpiračnými teoretikmi a možno by ich prinútil prehodnotiť svoje presvedčenie. Vedci majú záujem spolupracovať aj s veľkými technologickými platformami, ako je Meta, aby vymysleli spôsoby, ako tieto chaboty na platformách zobraziť. Autori článku tvrdia, že zistenia zdôrazňujú jednu zásadnú vec: fakty a odôvodnenia, ak sú správne podané, môžu niektorých ľudí odkloniť od ich konšpiračného presvedčenia.
Zdroj: popsci.com.
Zdroj Foto: depositphotos.com.
