YouTube presenta un nuovo strumento per aiutare a identificare i contenuti deepfake

YouTube ha annunciato un nuovo strumento per combattere i contenuti generati dall’intelligenza artificiale e identificare i deepfake sulla piattaforma.

Man mano che la tecnologia dell’intelligenza artificiale migliora, aumenta anche la capacità di usarla per scopi nefasti, come mettere il volto di qualcun altro sul corpo di un’altra persona. Questo processo è noto come deepfaking e ha già causato un grande putiferio nel mondo dello streaming.

Nel novembre del 2023, YouTube ha rivelato che avrebbe consentito agli utenti di eliminare i contenuti generati dall’intelligenza artificiale impersonificandoli e ora la società di proprietà di Google ha adottato nuove misure per consentire ai creatori di divulgare contenuti generati dall’intelligenza artificiale.

In un post sul blog , YouTube ha spiegato che il nuovo strumento di Creator Studio richiederà ai creatori di rivelare contenuti AI o alterati che potrebbero facilmente essere scambiati per filmati reali di una persona, un luogo o un evento.

La nuova etichetta YouTube prende di mira i deepfake

Le dichiarazioni di non responsabilità per i contenuti AI verranno ora visualizzate come etichette sui video con uno degli esempi chiave, inclusi i deepfake.

Ad esempio, “alterare digitalmente il contenuto per sostituire il volto di un individuo con quello di un altro o generare sinteticamente la voce di una persona per raccontare un video” richiederà un’etichetta.

“I creatori devono divulgare contenuti che: facciano sembrare che una persona reale dica o faccia qualcosa che non ha fatto, altera filmati di un evento o luogo reale, genera una scena dall’aspetto realistico che in realtà non si è verificata”, afferma la società .

Inoltre, YouTube potrebbe anche aggiungere manualmente un’etichetta anche quando un creatore non l’ha rivelata se il contenuto potrebbe potenzialmente confondere le persone.

Tuttavia, ci sono alcune situazioni, principalmente “irrilevanti”, in cui YouTube non richiederà un’etichetta per i contenuti AI.

Sono accettabili contenuti estremamente irrealistici, filtri di bellezza e alcuni effetti speciali del film come sfocature e regolazioni del colore.

Le etichette verranno attualmente lanciate nelle prossime settimane a partire dall’app mobile YouTube, seguita da desktop e TV.

La notizia arriva quasi un anno dopo che Twitch ha preso provvedimenti contro i contenuti deepfake , avvertendo che promuoverli o crearli potrebbe comportare la sospensione a tempo indeterminato.