Microsoft nimmt nach der Deepfake-Kontroverse um Taylor Swift große KI-Änderungen vor

Microsoft hat eine Lücke in seiner Designer AI-Bildgenerator-App geschlossen, die Berichten zufolge zur Erstellung von Deepfake-Bildern von Taylor Swift verwendet wurde.

Immer wenn Popmusikfans über beliebte Künstler in der Branche sprechen, fällt zweifellos der Name Taylor Swift. Sie hat sich mit ihrer Musik, ihren Live-Shows, ihrem Merch und vielem mehr einen Namen gemacht.

Berichten zufolge nutzte ein schlechter Schauspieler am 25. Januar 2024 die Designer-KI-Generator-App von Microsoft, um lebensechte Deepfake-Bilder des Sängers zu erstellen, die umgehend in den sozialen Medien verbreitet wurden.

Jetzt hat 404Media berichtet, dass Microsoft eine Lücke in der App geschlossen hat, die es Benutzern ermöglicht, Deepfake-Bilder von Promis zu erstellen.

Microsoft repariert KI-App, die Deepfakes von Taylor Swift erstellt hat

Die Veröffentlichung berichtete zuvor , dass die Deepfake-Bilder von Taylor Swift von verschiedenen Online-Communities stammten, die mehrere Tools verwendeten, darunter Microsofts Designer AI.

Am 29. Januar 2024 gab 404Media bekannt, dass Microsoft mehr Schutzmaßnahmen für Designer eingeführt und damit eine Lücke geschlossen hat, die von den böswilligen Akteuren im Prozess ausgenutzt wurde. Zuvor konnten sie leicht falsch geschriebene Namen und nicht-sexuelle Beschreibungen verwenden, um das Deepfake-Bild zu erstellen.

Diese Lücke wurde nun beseitigt, so dass Deepfake-Bilder überhaupt nicht mehr erzeugt werden können.

Auf der Website heißt es jedoch, dass die Community diese Deepfake-Bilder immer noch erstellt, allerdings mithilfe anderer, nicht genannter Tools.

Dieses Update für Designer kommt nur wenige Tage, nachdem Microsoft-CEO Satya Nadella auf die Kontroverse reagiert hat.

„Es geht um eine globale, gesellschaftliche Konvergenz in Bezug auf bestimmte Normen, und wir können dies erreichen, insbesondere wenn es Gesetze, Strafverfolgungs- und Technologieplattformen gibt, die zusammenpassen können – ich denke, wir können viel mehr regieren, als wir uns selbst zutrauen“, sagte er sagte.

Auch im Jahr 2024 ist es nicht das erste Mal, dass Microsoft Designer für die Generierung von Bildern viral geht. Anfang Januar kam es in den sozialen Medien zu einem Aufschwung: Benutzer erstellten ihre eigenen maßgeschneiderten Funko Pops.