YouTube dévoile un nouvel outil pour aider à identifier les contenus deepfakes

YouTube a annoncé un nouvel outil pour lutter contre le contenu généré par l’IA et identifier les deepfakes sur la plateforme.

À mesure que la technologie de l’IA s’améliore, la possibilité de l’utiliser à des fins néfastes, comme par exemple mettre le visage de quelqu’un d’autre sur le corps d’une autre personne, s’améliore également. Ce processus est connu sous le nom de deepfaking et a déjà provoqué un grand chahut dans le monde du streaming.

En novembre 2023, YouTube a révélé qu’il permettrait aux utilisateurs de supprimer le contenu d’IA se faisant passer pour eux et maintenant, la société appartenant à Google a pris de nouvelles mesures pour que les créateurs divulguent le contenu généré par l’IA.

Dans un article de blog , YouTube a expliqué que le nouvel outil de Creator Studio obligera les créateurs à divulguer l’IA ou le contenu modifié qui pourrait facilement être confondu avec des images réelles d’une personne, d’un lieu ou d’un événement.

Le nouveau label YouTube s’attaque aux deepfakes

Les clauses de non-responsabilité concernant le contenu de l’IA apparaîtront désormais sous forme d’étiquettes sur les vidéos, l’un des exemples clés incluant les deepfakes.

Par exemple, « la modification numérique du contenu pour remplacer le visage d’un individu par celui d’un autre ou la génération synthétique de la voix d’une personne pour raconter une vidéo » nécessitera une étiquette.

« Les créateurs doivent divulguer du contenu qui : donne l’impression qu’une personne réelle dit ou fait quelque chose qu’elle n’a pas fait, modifie les images d’un événement ou d’un lieu réel, génère une scène réaliste qui ne s’est pas réellement produite », déclare la société .

De plus, YouTube peut même ajouter manuellement une étiquette même si un créateur ne l’a pas divulgué si le contenu pourrait potentiellement dérouter les gens.

Cependant, il existe certaines situations, principalement « sans conséquence », dans lesquelles YouTube n’exigera pas de label pour le contenu IA.

Un contenu extrêmement irréaliste, des filtres de beauté et certains effets spéciaux du film comme les flous et les ajustements de couleurs sont tous acceptables.

Les labels seront actuellement déployés au cours des prochaines semaines, en commençant par l’application mobile YouTube, suivi par les ordinateurs de bureau et les téléviseurs.

La nouvelle intervient près d’un an après que Twitch a pris des mesures contre le contenu deepfake , avertissant que sa promotion ou sa création pourrait entraîner une suspension indéfinie.