유튜브, 딥페이크 콘텐츠 식별에 도움이 되는 새로운 도구 공개

YouTube는 AI 생성 콘텐츠에 맞서고 플랫폼에서 딥페이크를 식별하는 새로운 도구를 발표했습니다.

AI 기술이 발전함에 따라 다른 사람의 몸에 다른 사람의 얼굴을 얹는 등 사악한 목적으로 이를 사용할 수 있는 능력도 향상되었습니다. 이 프로세스는 딥페이킹으로 알려져 있으며 이미 스트리밍 세계에서 큰 소동을 일으켰습니다 .

2023년 11월 YouTube는 사용자가 자신을 사칭하는 AI 콘텐츠를 차단할 수 있도록 허용할 것이라고 밝혔으며 이제 Google 소유 회사는 제작자가 AI로 생성된 콘텐츠를 공개할 수 있는 새로운 조치를 취했습니다.

블로그 게시물 에서 YouTube는 Creator Studio의 새로운 도구를 사용하려면 제작자가 사람, 장소 또는 이벤트의 실제 영상으로 쉽게 착각할 수 있는 AI 또는 변경된 콘텐츠를 공개해야 한다고 설명했습니다.

새로운 YouTube 레이블, 딥페이크를 목표로 삼다

AI 콘텐츠에 대한 면책 ​​조항은 이제 딥페이크를 포함한 주요 사례 중 하나가 포함된 비디오 라벨로 표시됩니다.

예를 들어 “한 개인의 얼굴을 다른 사람의 얼굴로 대체하기 위해 콘텐츠를 디지털 방식으로 변경하거나 비디오 내레이션을 위해 사람의 음성을 합성적으로 생성하는 경우”에는 라벨이 필요합니다.

“제작자는 실제 인물이 자신이 하지 않은 말이나 행동을 하는 것처럼 보이게 만들고, 실제 사건이나 장소의 영상을 변경하고, 실제로 발생하지 않은 사실적으로 보이는 장면을 생성하는 콘텐츠를 공개해야 합니다.”라고 회사는 말합니다 .

또한 콘텐츠가 잠재적으로 사람들에게 혼란을 줄 수 있는 경우 제작자가 라벨을 공개하지 않은 경우에도 YouTube에서 수동으로 라벨을 추가할 수도 있습니다.

그러나 YouTube에서 AI 콘텐츠에 대한 라벨을 요구하지 않는 일부 상황(주로 ‘중요하지 않은’ 상황)이 있습니다.

극도로 비현실적인 콘텐츠, 뷰티 필터, 흐림 및 색상 조정과 같은 특정 특수 필름 효과는 모두 허용됩니다.

레이블은 현재 YouTube 모바일 앱을 시작으로 앞으로 몇 주에 걸쳐 출시될 예정이며, 이어서 데스크톱과 TV에도 출시될 예정입니다.

이 소식은 Twitch가 딥페이크 콘텐츠에 대해 조치를 취하여 해당 콘텐츠를 홍보하거나 생성하면 무기한 정지가 발생할 수 있다고 경고한 지 거의 1년 만에 나온 것입니다 .