YouTube presenta una nueva herramienta para ayudar a identificar contenido deepfake

YouTube ha anunciado una nueva herramienta para combatir el contenido generado por IA e identificar deepfakes en la plataforma.

A medida que la tecnología de inteligencia artificial mejora, también lo hace la capacidad de usarla para propósitos nefastos, como poner la cara de otra persona en el cuerpo de otra persona. Este proceso se conoce como deepfaking y ya ha causado un gran revuelo en el mundo del streaming.

En noviembre de 2023, YouTube reveló que permitiría a los usuarios eliminar contenido de IA que se hiciera pasar por ellos y ahora, la empresa propiedad de Google ha tomado nuevas medidas para que los creadores revelen contenido generado por IA.

En una publicación de blog , YouTube explicó que la nueva herramienta en Creator Studio requerirá que los creadores revelen inteligencia artificial o contenido alterado que podría confundirse fácilmente con imágenes reales de una persona, lugar o evento.

El nuevo sello de YouTube apunta a los deepfakes

Las exenciones de responsabilidad sobre el contenido de IA ahora aparecerán como etiquetas en videos con uno de los ejemplos clave que incluye deepfakes.

Por ejemplo, “alterar digitalmente el contenido para reemplazar el rostro de un individuo por el de otro o generar sintéticamente la voz de una persona para narrar un video” requerirá una etiqueta.

«Los creadores deben divulgar contenido que: haga que una persona real parezca decir o hacer algo que no hizo, altere imágenes de un evento o lugar real, genere una escena de apariencia realista que en realidad no ocurrió», dice la compañía .

Logotipo de YouTube sobre fondo oscuro — Unsplash/Alexander Shatov

Además, YouTube puede incluso agregar manualmente una etiqueta incluso cuando un creador no la ha revelado si el contenido podría confundir a las personas.

Sin embargo, hay algunas situaciones, principalmente las “intrascendentes”, en las que YouTube no requerirá una etiqueta para el contenido de IA.

Se aceptan contenidos extremadamente poco realistas, filtros de belleza y ciertos efectos especiales de la película, como desenfoques y ajustes de color.

Actualmente, las etiquetas se implementarán durante las próximas semanas, comenzando con la aplicación móvil de YouTube, seguida de las computadoras de escritorio y los televisores.

La noticia llega casi un año después de que Twitch tomara medidas contra el contenido deepfake , advirtiendo que promocionarlo o crearlo podría resultar en una suspensión indefinida.