Voicebox na generovanie reči je príliš nebezpečný na sprístupnenie verejnosti

Spoločnosť Meta predstavila nový nástroj umelej inteligencie s názvom Voicebox, ktorý podľa nej predstavuje prelom v oblasti generovania reči pomocou umelej inteligencie. Zatiaľ ho však neuvoľní pre verejnosť, pretože by to podľa nej mohlo mať katastrofálne následky. Voicebox je v súčasnosti schopný vytvárať zvukové klipy reči v šiestich jazykoch (všetky sú európskeho pôvodu) a podľa príspevku na blogu spoločnosti Meta je to prvý model AI svojho druhu, ktorý je schopný plniť úlohy nad rámec toho, na čo bol „špeciálne vycvičený“. Čo teda presne dokáže? Predovšetkým je schopný vytvoriť pomerne presnú repliku hlasu človeka prevodom textu na reč (text-to-speach) s použitím vzorového zvukového súboru, ktorý trvá len dve sekundy. Zdanlivo je to neškodná schopnosť, ktorá však má v nesprávnych rukách obrovský deštruktívny potenciál.  Väčšina významných verejných činiteľov vrátane politikov má množstvo zvukových záznamov, ktoré kolujú po internete. Nebolo by ťažké zhromaždiť niekoľko záznamov ...