Microsoft faz grandes mudanças na IA após polêmica deepfake de Taylor Swift

A Microsoft fechou uma lacuna em seu aplicativo gerador de imagens Designer AI que teria sido usado para criar imagens deepfake de Taylor Swift.

Sempre que os fãs de música pop falam sobre artistas populares no espaço, não há dúvida de que o nome de Taylor Swift é mencionado. Ela fez um grande nome com sua música, shows ao vivo, produtos e muito mais.

Em 25 de janeiro de 2024, um mau ator supostamente usou o aplicativo gerador Designer AI da Microsoft para criar imagens falsas e realistas do cantor que foram prontamente espalhadas pelas redes sociais.

Agora, a 404Media informou que a Microsoft corrigiu uma lacuna no aplicativo que permite aos usuários criar imagens falsas de celebridades.

Microsoft corrige aplicativo de IA que criou deepfakes de Taylor Swift

A publicação relatou anteriormente que as imagens deepfake de Taylor Swift vieram de várias comunidades online que usavam várias ferramentas, incluindo Designer AI da Microsoft.

Em 29 de janeiro de 2024, a 404Media revelou que a Microsoft introduziu mais proteções ao Designer, fechando uma brecha usada pelos malfeitores no processo. Antes, eles podiam usar nomes com erros ortográficos e descrições não sexuais para criar a imagem deepfake.

Agora, essa brecha foi removida – fazendo com que imagens falsas não possam ser geradas.

No entanto, o site afirma que a comunidade que cria essas imagens deepfake ainda o faz, mas por meio de outras ferramentas não identificadas.

Esta atualização do Designer ocorre poucos dias depois que o CEO da Microsoft, Satya Nadella, respondeu à polêmica.

“Trata-se de convergência global e social em certas normas, e podemos fazê-lo, especialmente quando você tem a lei, a aplicação da lei e plataformas tecnológicas que podem se unir – acho que podemos governar muito mais do que acreditamos”, ele disse.

Esta não é a primeira vez que o Microsoft Designer se torna viral por gerar imagens até agora em 2024. No início de janeiro, as redes sociais explodiram com usuários criando seus próprios Funko Pops personalizados.