YouTube lança nova ferramenta para ajudar a identificar conteúdo deepfake

O YouTube anunciou uma nova ferramenta para combater conteúdo gerado por IA e identificar deepfakes na plataforma.

À medida que a tecnologia de IA melhora, também melhora a capacidade de usá-la para fins nefastos, como colocar o rosto de outra pessoa no corpo de outra pessoa. Esse processo é conhecido como deepfaking e já causou grande rebuliço no mundo do streaming.

Em novembro de 2023, o YouTube revelou que permitiria que os usuários eliminassem conteúdo de IA que se passasse por eles e agora, a empresa de propriedade do Google tomou novas medidas para que os criadores divulguem conteúdo gerado por IA.

Em uma postagem no blog , o YouTube explicou que a nova ferramenta do Creator Studio exigirá que os criadores divulguem IA ou conteúdo alterado que pode facilmente ser confundido com imagens reais de uma pessoa, coisa, lugar ou evento.

Nova gravadora do YouTube visa deepfakes

As isenções de responsabilidade para conteúdo de IA agora aparecerão como rótulos em vídeos com um dos principais exemplos, incluindo deepfakes.

Por exemplo, “alterar digitalmente o conteúdo para substituir o rosto de um indivíduo pelo de outro ou gerar sinteticamente a voz de uma pessoa para narrar um vídeo” exigirá um rótulo.

“Os criadores devem divulgar conteúdo que: Faça uma pessoa real parecer dizer ou fazer algo que não fez, altere a filmagem de um evento ou lugar real, gere uma cena de aparência realista que não ocorreu de fato”, diz a empresa .

Além disso, o YouTube pode até adicionar manualmente um rótulo, mesmo quando o criador não o divulga, se o conteúdo puder confundir as pessoas.

No entanto, existem algumas situações, principalmente as “inconsequentes”, em que o YouTube não exigirá um rótulo para conteúdo de IA.

Conteúdo extremamente irreal, filtros de beleza e certos efeitos especiais de filme, como desfoques e ajustes de cores, são aceitáveis.

Os rótulos serão lançados nas próximas semanas, começando com o aplicativo móvel do YouTube, seguido por desktops e TVs.

A notícia chega quase um ano depois que o Twitch tomou medidas contra o conteúdo deepfake , alertando que promovê-lo ou criá-lo poderia resultar em suspensão por tempo indeterminado.