AI influencerky využívajú telá skutočných žien pomocou technológie deepfake

„AI Influencerky“ na Instagrame získali obrovské množstvo sledovateľov a milióny pozretí tým, že kradli videá skutočných žien, aby vyzerali realistickejšie. Účty na Instagrame prevádzkované ľuďmi, ktorí propagujú influencerky a nahé modelky vytvorené umelou inteligenciou, sťahovali populárne instagramové videá od skutočných modeliek a sexuálnych pracovníčok a potom pomocou technológie deepfake na ukradnuté videá superponovali tvár AI modelky.

Tieto upravené videá sa potom používajú na propagáciu platených účtov modeliek vygenerovaných umelou inteligenciou na webových stránkach, ktoré konkurujú službe OnlyFans. Niektoré z týchto modeliek vytvorených umelou inteligenciou nazbierali státisíce sledovateľov na Instagrame, pričom využívali prevažne kradnutý obsah.

Jedným z príkladov je instagramová stránka konkrétnej AI modelky s menom Adrianna Avellino, ktorá má 94 000 sledovateľov. Stránka Adrianny obsahuje odkaz na stránku Fanvue, kde si ju ľudia môžu predplatiť za 5 USD mesačne. Zatiaľ čo niektoré fotografie na Adrianninom účte sú zjavne vytvorené pomocou AI generátorov obrázkov, je tu aj množstvo videí skutočných žien, ktoré boli sfalšované tak, aby na nich bola zobrazená Adriannina tvár vygenerovaná umelou inteligenciou.

Táto prax je veľmi znepokojujúca a poukazuje na dystopickú povahu používania technológie deepfake. AI influenceri často používajú videá ukradnuté od rôznych skutočných žien, čo znamená, že jeden AI influencer môže byť zostavený z mnohých rôznych ukradnutých videí s rôznymi „telami“.

Ďalšia AI modelka Sophie Skye nazbierala 258 000 sledovateľov na Instagrame a predáva predplatné za 20 dolárov mesačne. Po tom, čo spoločnosť Meta (materská spoločnosť Instagramu) bola upozornená, tieto dva účty odstránila.

Meta vymazala aj ďalší účet s viac ako 100 000 sledovateľmi s názvom Aurora Kate Harris a uviedla, že od mája 2024 plánuje označovať obsah vytvorený umelou inteligenciou. Krádež videozáznamov od skutočných žien, aby AI influencerky vyzerali „dôveryhodnejšie“, je stratégia, ktorá sa presadzuje v príručkách na vytváranie takýchto AI influencerov. Táto škodlivá prax zahŕňa nielen použitie cudzej tváre bez jej súhlasu, ale aj privlastnenie si práce a obsahu videí žien, ktoré v ukradnutých videách vystupujú.

Existujú kanály YouTube so značnou sledovanosťou, ktoré poskytujú podrobné návody na vytváranie AI influenceriek kradnutím videí skutočných ľudí. Tieto videá zdôrazňujú dôležitosť používania skutočných videozáznamov, aby boli AI influencerky realistickejšie. Mnohí diváci však nedokážu rozoznať, že títo influenceri sú vytvorení umelou inteligenciou.

Komentáre k pozmeneným videám naznačujú, že diváci si neuvedomujú, že influencerky sú generované umelou inteligenciou, prípadne sa o to ani nezaujímajú. Tento znepokojujúci trend vyvoláva otázky týkajúce sa súhlasu, porušovania autorských práv a vplyvu technológie AI na platformy sociálnych sietí. 

Zdroj: 404media.co.