블랙핑크 리사, ’19+ 크레이지 호스 쇼 가슴 노출 영상’ 100% 딥페이크 확인

19+ 크레이지호스 쇼에서 블랙핑크 리사가 상체를 노출했다는 주장이 담긴 영상이 유포된 가운데, 텐아시아 조사 결과 해당 영상은 ‘딥페이크’ 영상인 것으로 드러났다.

Deepfake 비디오는 고급 AI 기술을 사용하여 제작되므로 가짜 콘텐츠와 실제 콘텐츠를 구별하는 것이 점점 더 어려워지고 있습니다. 많은 연예인들이 딥페이크 범죄의 피해자가 되었지만, 추적과 기소의 어려움으로 인해 실제 처벌을 받는 경우가 적어 사건이 반복적으로 발생하고 있습니다.

12월 15일, 프랑스 파리에서 열린 크레이지 호스 쇼에서 리사가 상체 옷을 벗었다는 의혹이 제기되었습니다. 문제의 영상은 성인사이트와 특정 커뮤니티 등을 통해 빠르게 확산됐다. 해당 영상에는 ‘크레이지 호스(Crazy Horse)’ 로고가 붙어 있어 실제 퍼포먼스 영상인 것으로 오해하는 네티즌들이 많았다.

KAIST에서 개발한 딥페이크 탐지 애플리케이션 ‘KaiCatch’를 통해 해당 영상이 100% 딥페이크 영상임을 확인했습니다. 이 프로그램은 영상이 딥페이크일 확률을 보여주며, 확률이 100%에 도달하면 딥페이크 영상의 모든 조건이 충족되었음을 나타냅니다.

리사는 지난 10월 크레이지 호스 쇼에 출연했다. 크레이지 호스(Crazy Horse)는 물랑루즈(Moulin Rouge), 리도(Lido)와 함께 파리 3대 카바레 중 하나입니다. 웅장한 무대와 여성 댄서들의 도발적인 퍼포먼스로 유명한 크레이지호스는 다양한 공연을 관람하며 음료와 식사를 즐길 수 있는 카바레이다.

딥페이크(Deepfake)는 인공지능(AI) 기술인 딥러닝(Deep Learning)과 페이크(Fake)를 합친 말이다. 현실처럼 보이는 가상정보의 합성으로, 이 기술을 오용할 경우 신원도용, 생체인증 우회, 사기, 명예훼손은 물론 가짜뉴스, 광고 확산 등으로 이어져 사회에 혼란을 가져올 수 있다.

관계자에 따르면 불법사이트에는 소녀시대, 트와이스, 레드벨벳, 뉴진스, 아이이브, 블랙핑크, 아이유, 에스파 등 다양한 가수들의 얼굴이 불법 합성되고 있다. 유명 연예인은 언제든지 범죄의 표적이 될 수 있습니다.

불법 합성영상물을 제작한 경우 5년 이하의 벌금 또는 5천만원 이하의 벌금이 부과됩니다. 또한, 이를 판매하면 최대 7년의 징역형에 처해질 수 있습니다. 하지만 노골적인 내용을 유포하는 등 AI 기술을 오용한 사례를 찾아내기는 쉽지 않다. 또한 AI 이미지 제작 사이트의 경우 해외에 서버를 두고 있는 곳이 많아 노골적인 콘텐츠 제작 책임자를 검거하기 어려운 경우가 많다.

출처: Daum