Microsoft는 Taylor Swift의 딥페이크 이미지를 생성하는 데 사용된 것으로 알려진 Designer AI 이미지 생성기 앱의 허점을 폐쇄했습니다.
팝 음악 팬들이 이 분야의 인기 아티스트에 대해 이야기할 때마다 Taylor Swift의 이름이 거론되는 것은 의심의 여지가 없습니다. 그녀는 음악, 라이브 쇼, 상품 등을 통해 상당한 명성을 얻었습니다.
2024년 1월 25일, 악의적인 행위자가 Microsoft의 Designer AI 생성기 앱을 사용하여 가수의 실물과 같은 딥페이크 이미지를 만든 것으로 알려졌으며 소셜 미디어에 즉시 퍼졌습니다.
이제 404Media는 Microsoft가 사용자가 유명인의 딥페이크 이미지를 만들 수 있는 앱의 허점을 수정했다고 보고했습니다.
Microsoft, Taylor Swift 딥페이크를 만든 AI 앱 수정
이 간행물은 이전에 Taylor Swift 딥페이크 이미지가 Microsoft의 Designer AI를 포함한 여러 도구를 사용하는 다양한 온라인 커뮤니티에서 나온 것이라고 보도했습니다.
2024년 1월 29일, 404Media는 Microsoft가 Designer에 더 많은 보호 기능을 도입하여 프로세스에서 악의적인 행위자가 사용한 허점을 막았다고 밝혔습니다. 이전에는 약간 틀린 이름과 성적이지 않은 설명을 사용하여 딥페이크 이미지를 만들 수 있었습니다.
이제 그 허점이 제거되어 딥페이크 이미지를 전혀 생성할 수 없게 되었습니다.
그러나 사이트에는 이러한 딥페이크 이미지를 생성하는 커뮤니티가 여전히 그렇게 하고 있지만 이름이 알려지지 않은 다른 도구를 사용하고 있다고 명시되어 있습니다.
이번 Designer 업데이트는 Microsoft CEO Satya Nadella가 논란에 응답한 지 불과 며칠 만에 출시되었습니다.
“이것은 특정 규범에 대한 글로벌, 사회적 융합에 관한 것이며, 특히 함께 모일 수 있는 법, 법 집행 기관 및 기술 플랫폼이 있을 때 우리는 그것을 할 수 있습니다. 우리는 우리가 인정하는 것보다 훨씬 더 많은 것을 통치할 수 있다고 생각합니다.” 말했다.
2024년 현재까지 Microsoft Designer가 이미지 생성에 입소문을 낸 것은 이번이 처음이 아닙니다. 1월 초, 소셜 미디어는 사용자들이 자신만의 맞춤형 Funko Pop을 만드는 인기를 얻었습니다.
답글 남기기