Microsoft apporte un changement majeur à l’IA après la controverse sur les deepfakes de Taylor Swift

Microsoft a comblé une faille dans son application de génération d’images Designer AI qui aurait été utilisée pour créer de fausses images de Taylor Swift.

Chaque fois que les fans de musique pop parlent d’artistes populaires dans le domaine, il ne fait aucun doute que le nom de Taylor Swift est évoqué. Elle s’est fait un nom avec sa musique, ses concerts, ses produits dérivés et bien plus encore.

Le 25 janvier 2024, un acteur malveillant aurait utilisé l’application génératrice Designer AI de Microsoft pour créer de fausses images réalistes du chanteur qui ont été rapidement diffusées sur les réseaux sociaux.

Maintenant, 404Media a rapporté que Microsoft avait corrigé une faille dans l’application qui permet aux utilisateurs de créer de fausses images de célébrités.

Microsoft corrige l’application d’IA qui a créé les deepfakes de Taylor Swift

La publication avait précédemment rapporté que les images deepfake de Taylor Swift provenaient de diverses communautés en ligne qui utilisaient plusieurs outils, notamment Designer AI de Microsoft.

Le 29 janvier 2024, 404Media a révélé que Microsoft avait introduit davantage de protections dans Designer, comblant ainsi une faille utilisée par les mauvais acteurs du processus. Auparavant, ils étaient capables d’utiliser des noms légèrement mal orthographiés et des descriptions non sexuelles pour créer une image deepfake.

Maintenant, cette faille a été supprimée, ce qui fait qu’il est impossible de générer du tout de fausses images.

Cependant, le site indique que la communauté qui crée ces images deepfake le fait toujours, mais via d’autres outils anonymes.

Cette mise à jour de Designer intervient quelques jours seulement après que le PDG de Microsoft, Satya Nadella, a répondu à la controverse.

« Il s’agit d’une convergence mondiale et sociétale sur certaines normes, et nous pouvons y parvenir, surtout lorsque vous disposez de plates-formes juridiques, d’application de la loi et technologiques qui peuvent se réunir. Je pense que nous pouvons gouverner bien plus que ce que nous nous accordons », a-t-il déclaré. dit.

Ce n’est pas non plus la première fois que Microsoft Designer devient viral pour générer des images jusqu’à présent en 2024. Début janvier, les réseaux sociaux ont éclaté avec des utilisateurs créant leurs propres Funko Pops personnalisées.