Microsoft realiza un cambio importante en la IA después de la controversia sobre el deepfake de Taylor Swift

Microsoft ha cerrado una laguna jurídica en su aplicación de generación de imágenes Designer AI que, según se informa, se utilizó para crear imágenes falsas de Taylor Swift.

Siempre que los fanáticos de la música pop hablan de artistas populares en el espacio, no hay duda de que se menciona el nombre de Taylor Swift. Se ha hecho un gran nombre con su música, shows en vivo, merchandising y más.

El 25 de enero de 2024, un mal actor supuestamente utilizó la aplicación generadora Designer AI de Microsoft para crear imágenes realistas del cantante que se difundieron rápidamente en las redes sociales.

Ahora, 404Media ha informado que Microsoft ha solucionado una laguna en la aplicación que permite a los usuarios crear imágenes falsas de celebridades.

Microsoft corrige la aplicación de inteligencia artificial que creó los deepfakes de Taylor Swift

La publicación informó anteriormente que las imágenes deepfake de Taylor Swift procedían de varias comunidades en línea que utilizaban múltiples herramientas, incluida Designer AI de Microsoft.

El 29 de enero de 2024, 404Media reveló que Microsoft introdujo más protecciones para Designer, cerrando una laguna utilizada por los malos actores en el proceso. Antes, podían usar nombres ligeramente mal escritos y descripciones no sexuales para crear la imagen deepfake.

Ahora, esa laguna jurídica se ha eliminado, lo que hace que no se puedan generar imágenes deepfake en absoluto.

Sin embargo, el sitio afirma que la comunidad que crea estas imágenes deepfake todavía lo hace, pero a través de otras herramientas anónimas.

Esta actualización de Designer llega pocos días después de que el director ejecutivo de Microsoft, Satya Nadella, respondiera a la controversia.

«Se trata de una convergencia social global en ciertas normas, y podemos hacerlo, especialmente cuando tenemos la ley, las fuerzas del orden y las plataformas tecnológicas que pueden unirse. Creo que podemos gobernar mucho más de lo que nos damos crédito», afirmó. dicho.

Esta tampoco es la primera vez que Microsoft Designer se vuelve viral por generar imágenes en lo que va de 2024. A principios de enero, las redes sociales estallaron y los usuarios crearon sus propios Funko Pops personalizados.