Microsoft wprowadza poważne zmiany w sztucznej inteligencji po kontrowersjach związanych z deepfake’ami Taylor Swift

Microsoft załatał lukę w swojej aplikacji do generowania obrazów Designer AI, która według doniesień była wykorzystywana do tworzenia fałszywych obrazów Taylor Swift.

Ilekroć fani muzyki pop mówią o popularnych artystach w kosmosie, nie ma wątpliwości, że pojawia się nazwisko Taylor Swift. Zyskała sławę dzięki swojej muzyce, występom na żywo, gadżetom i nie tylko.

Według doniesień 25 stycznia 2024 r. zły aktor użył aplikacji generatora sztucznej inteligencji Microsoft Designer AI do stworzenia realistycznych, fałszywych obrazów piosenkarza, które szybko rozprzestrzeniły się w mediach społecznościowych.

Teraz serwis 404Media poinformował, że Microsoft naprawił lukę w aplikacji, która umożliwia użytkownikom tworzenie fałszywych zdjęć celebrytów.

Microsoft naprawia aplikację AI, która stworzyła deepfakes Taylor Swift

W publikacji wcześniej podano , że fałszywe obrazy Taylor Swift pochodzą od różnych społeczności internetowych, które korzystały z wielu narzędzi, w tym sztucznej inteligencji projektanta firmy Microsoft.

29 stycznia 2024 r. 404Media ujawniło, że Microsoft wprowadził więcej zabezpieczeń do Designera, zamykając lukę wykorzystywaną w tym procesie przez złych aktorów. Wcześniej mogli używać lekko błędnie napisanych imion i opisów niemających charakteru seksualnego, aby stworzyć fałszywy obraz.

Teraz ta luka została usunięta — w związku z czym nie można w ogóle generować fałszywych obrazów.

Jednak na stronie znajduje się informacja, że społeczność tworząca te fałszywe obrazy nadal to robi, ale za pomocą innych nienazwanych narzędzi.

Ta aktualizacja programu Designer pojawia się zaledwie kilka dni po tym, jak dyrektor generalny Microsoft, Satya Nadella, odpowiedział na kontrowersje.

„Chodzi o globalną, społeczną konwergencję w zakresie pewnych norm i możemy tego dokonać, zwłaszcza gdy mamy prawo, organy ścigania i platformy technologiczne, które mogą się połączyć. Myślę, że możemy rządzić o wiele więcej, niż nam się wydaje” – stwierdził. powiedział.

Nie jest to także pierwszy raz, kiedy w 2024 r. Microsoft Designer stał się wirusowy w zakresie generowania obrazów. Na początku stycznia w mediach społecznościowych zawrzało, a użytkownicy tworzyli własne, spersonalizowane Funko Pops.