Ľudia a AI „myslia“ úplne inak a môže to mať následky

Vieme, že umelá inteligencia (AI) nedokáže myslieť rovnako ako človek, ale nový výskum odhalil, ako môže tento rozdiel ovplyvniť rozhodovanie AI, čo môže viesť k dôsledkom v reálnom svete, na ktoré ľudia nemusia byť pripravení. Štúdia publikovaná vo februári 2025 v časopise Transactions on Machine Learning Research skúmala, ako dobre môžu veľké jazykové modely (LLM) vytvárať analógie.

Zistili, že v jednoduchých analógiách písmen a reťazcov, ako aj v úlohách s digitálnymi maticami, kde bolo úlohou doplniť maticu určením chýbajúcej číslice, ľudia dosahovali dobré výsledky, ale výkonnosť umelej inteligencie prudko klesala. Pri testovaní zdatnosti ľudí a modelov AI pri analogických úlohách založených na príbehu sa v štúdii zistilo, že modely boli náchylné na efekt poradia odpovedí (rozdiely v odpovediach spôsobené poradím úloh v experimente) a mohli takisto častejšie parafrázovať.

Štúdia dospela k záveru, že modelom umelej inteligencie chýbajú schopnosti „zero-shot learning“, čo je nastavenie problému v hlbokom učení, pri ktorom učiaci sa pozoruje vzorky z tried, ktoré neboli prítomné počas tréningu, a má predpovedať triedu, do ktorej vzorka patrí.

Spoluautorka štúdie Martha Lewisová z Amsterdamskej univerzity uviedla, že hoci my môžeme abstrahovať od konkrétnych vzorov k všeobecnejším pravidlám, LLM túto schopnosť nemajú. „Sú dobré v identifikácii a porovnávaní vzorov, ale nie v zovšeobecňovaní z týchto vzorov.“

Aby sme si uvedomili dôsledky, spomeňme napríklad, že umelá inteligencia sa čoraz častejšie využíva v právnej oblasti na výskum, analýzu judikatúry a vydávanie odporúčaní na vynesenie rozsudku. Pre nižšiu schopnosť vytvárať analógie však nemusí rozpoznať, ako sa právne precedensy vzťahujú na mierne odlišné prípady, keď sa vyskytnú.

Vzhľadom na to, že táto nedostatočná zdatnosť môže ovplyvniť výsledky v reálnom svete, štúdia poukázala na to, že to slúži ako dôkaz, že musíme starostlivo hodnotiť systémy AI nielen z hľadiska presnosti, ale aj robustnosti ich kognitívnych schopností.

Zdroj: livescience.com.

^{Zdroj Foto: depositphotos.com.}