YouTube 宣布推出一款新工具,用於打擊人工智慧產生的內容並識別平台上的深度偽造內容。
隨著人工智慧技術的進步,將其用於邪惡目的的能力也在不斷提高,例如將別人的臉放在另一個人的身上。這個過程被稱為“深度造假”,它已經在串流媒體世界引起了軒然大波。
早在 2023 年 11 月,YouTube 就透露將允許用戶刪除冒充他們的人工智慧內容,現在,這家谷歌旗下的公司已採取新措施,要求創作者揭露人工智慧產生的內容。
YouTube在部落格文章中解釋說,Creator Studio 中的新工具將要求創作者披露 AI 或更改的內容,這些內容很容易被誤認為是人、物、地點或事件的真實鏡頭。
YouTube 新標籤瞄準 Deepfakes
人工智慧內容的免責聲明現在將顯示為影片上的標籤,其中關鍵範例之一包括深度偽造。
例如,「以數位方式改變內容以用另一個人的面孔替換一個人的臉或合成生成一個人的聲音來敘述影片」將需要一個標籤。
該公司表示:“創作者必須披露以下內容:使真人看起來在說或做他們沒有做過的事情,改變真實事件或地點的鏡頭,生成實際並未發生的逼真場景。”
此外,如果內容可能會讓人感到困惑,即使創作者沒有披露標籤,YouTube 甚至可能會手動添加標籤。
然而,在某些情況下,主要是「無關緊要」的情況,YouTube 不會要求人工智慧內容貼上標籤。
極度不切實際的內容、美顏濾鏡以及某些特殊的電影效果(例如模糊和色彩調整)都是可以接受的。
目前,唱片公司將在接下來的幾週內推出 YouTube 行動應用程序,隨後是桌面和電視應用程式。
這項消息是在Twitch 對 Deepfake 內容採取行動近一年後發布的,警告推廣或創建此類內容可能會導致無限期暫停。
發佈留言