YouTube dà un giro di vite ai Deepfake: “Dobbiamo proteggere la nostra comunità”

La piattaforma video YouTube sta introducendo la tecnologia di intelligenza artificiale generativa per i suoi utenti e creatori di contenuti, ma allo stesso tempo sta anche ponendo nuovi limiti al suo utilizzo.

Martedì 14 novembre, l’azienda ha stabilito nuove regole sui contenuti creati con l’aiuto dell’IA generativa, tra cui norme che limitano i video che utilizzano le sembianze altrui e che danno alle etichette musicali la possibilità di rimuovere i video in cui compare la voce di un musicista o di un artista famoso, creata senza il loro permesso.

Altri articoli

tecnologia

Dal Grande Fratello al deepfake con Kim Kardashian e Idris Elba: quando l’IA può diventare un format

celebrities

Scarlett Johansson schiera gli avvocati contro l’intelligenza artificiale: è la prima volta a Hollywood

“L’intelligenza artificiale generativa ha il potenziale per sbloccare la creatività su YouTube e trasformare l’esperienza degli spettatori e dei creatori sulla nostra piattaforma”, scrivono i vicepresidenti di YouTube Jennifer Flannery O’Connor e Emily Moxley in un post. “Ma, cosa altrettanto importante, queste opportunità devono essere bilanciate dalla nostra responsabilità di proteggere la comunità di YouTube”.

YouTube e i deepfake

Per quanto riguarda la questione dei deepfake e dei sound-alike (deepfake ma audio, ndr), l’azienda afferma che “sarà possibile richiedere la rimozione di contenuti generati dall’intelligenza artificiale o di altri contenuti sintetici o alterati che simulano un individuo identificabile, compreso il suo volto o la sua voce”.

Tale possibilità, tuttavia, sarà soggetta a dei limiti: “Non tutti i contenuti saranno rimossi da YouTube, e nel valutare queste richieste prenderemo in considerazione una serie di fattori”, aggiunge l’azienda. “Tra questi, il fatto che il contenuto sia una parodia o una satira, che la persona che ha fatto la richiesta possa essere identificata in modo univoco o che si tratti di un pubblico ufficiale o di un personaggio famoso, nel qual caso il limite potrebbe essere più alto”.

Nel caso di musicisti e cantanti, YouTube afferma che darà alle etichette che rappresentano gli artisti coinvolti nei test di IA di YouTube la possibilità di richiedere la rimozione dei sound-alike. “Nel determinare se accogliere una richiesta di rimozione, prenderemo in considerazione fattori quali il fatto che il contenuto sia oggetto di notizie, analisi o critiche sulle voci sintetiche”, spiega l’azienda.

Un’etichetta per l’IA

YouTube sta inoltre introducendo nuovi requisiti di divulgazione ed etichette sui contenuti creati dall’IA generativa, in particolare se sono di natura realistica o se riguardano eventi geopolitici complicati o controversi, elezioni o altre questioni di interesse pubblico. Anche i contenuti creati con gli strumenti di IA di YouTube saranno etichettati come tali.

Le nuove regole e linee guida sono state introdotte dopo che la preoccupazione per l’IA generativa ha raggiunto i vertici di Hollywood, con il sindacato degli attori SAG-AFTRA e quello degli sceneggiatori WGA che hanno richiesto regole severe sul suo utilizzo nei loro nuovi contratti, mentre le etichette musicali si preoccupano dei sound-alike che utilizzano le voci dei loro artisti per nuovi testi sulle piattaforme social.

L’impegno di YouTube

Sebbene non sia possibile riportare indietro le lancette, aziende come YouTube sembrano certamente impegnate ad assicurarsi che l’uso di questo strumento sia il più sicuro possibile.

In occasione di un evento che si è svolto a settembre presso la sede di YouTube a New York, l’azienda ha presentato una serie di strumenti di intelligenza artificiale, tra cui Dream Screen, che consente agli utenti di creare uno sfondo per un video con un semplice comando. L’azienda sta inoltre sviluppando nuovi strumenti per artisti e musicisti, anche se non è ancora chiaro quale sarà l’aspetto esatto di questi strumenti una volta implementati.

“Siamo estremamente entusiasti del potenziale di questa tecnologia e siamo consapevoli che ciò che accadrà si ripercuoterà sulle industrie creative per gli anni a venire”, afferma l’azienda. “Ci stiamo prendendo il tempo necessario per bilanciare questi vantaggi con la garanzia di una sicurezza permanente per la nostra comunità in questo momento cruciale”. E conclude: “E lavoreremo fianco a fianco con i creatori, gli artisti e altri operatori dell’industria creativa per costruire un futuro che sia vantaggioso per tutti noi”.

Traduzione di Pietro Cecioni