Nightshade umožňuje „otráviť“ AI poškodenými tréningovými údajmi

Odkedy sa ChatGPT takmer pred rokom objavil na scéne, éra generatívnej umelej inteligencie sa rozbehla na plné obrátky, ale stúpol aj počet jej odporcov. Viacerí umelci, zabávači, interpreti a dokonca aj nahrávacie spoločnosti podali žaloby proti firmám zaoberajúcim sa umelou inteligenciou. Niektoré z nich sa týkali aj „tajnej omáčky“, ktorá stojí za všetkými týmito novými nástrojmi – tréningových údajov. Tieto modely umelej inteligencie by totiž nefungovali bez prístupu k veľkému množstvu multimédií vrátane písomných materiálov a obrázkov vytvorených umelcami a učenia sa z nich. Pritom umelci o tom nemali žiadne predchádzajúce vedomosti a ani nemali možnosť namietať proti tomu, aby sa ich diela používali na trénovanie nových komerčných produktov s umelou inteligenciou. Mnoho tréningových súborov údajov obsahuje materiál zozbieraný z webu, čo je postup, ktorý umelci predtým vo veľkej miere podporovali, keď sa používal na indexovanie ich materiálov pre výsledky vyhľadávania. No teraz s ...