YouTube、ディープフェイクコンテンツの特定に役立つ新しいツールを発表

YouTubeは、AI生成コンテンツに対抗し、プラットフォーム上のディープフェイクを特定するための新しいツールを発表した。

AI テクノロジーが向上するにつれて、他人の顔を他人の体に貼り付けるなど、悪意のある目的に AI を使用する能力も向上します。このプロセスはディープフェイクとして知られており、ストリーミングの世界ではすでに大きな騒動を引き起こしています。

2023 年 11 月にYouTube は、ユーザーが自分になりすました AI コンテンツを削除できるようにすることを明らかにしました。そして今回、Google 所有の会社は、クリエイターが AI によって生成されたコンテンツを公開するための新たな措置を講じました。

YouTube はブログ投稿で、クリエイター スタジオの新しいツールでは、人、物、場所、イベントの実際の映像と間違われやすい AI または改変されたコンテンツを公開することがクリエイターに求められると説明しました。

新しい YouTube レーベルがディープフェイクを狙う

AI コンテンツの免責事項は、ディープフェイクを含む主要な例の 1 つを含むビデオ上のラベルとして表示されるようになります。

たとえば、「コンテンツをデジタル的に変更して、ある個人の顔を別の個人の顔に置き換えたり、ビデオのナレーションのために人の声を合成的に生成したりする」場合には、ラベルが必要になります。

「クリエイターは、実際の人物が実際に行っていないことを言ったり行ったりするように見せたり、実際の出来事や場所の映像を変更したり、実際には起こらなかった現実的に見えるシーンを生成したりするコンテンツを開示する必要があります。」と同社は述べています。

さらに、コンテンツが人々を混乱させる可能性がある場合、クリエイターがラベルを公開していない場合でも、YouTube は手動でラベルを追加する場合もあります。

ただし、主に「重要ではない」状況では、YouTube が AI コンテンツのラベルを要求しない状況もあります。

非常に非現実的なコンテンツ、美容フィルター、ぼかしや色の調整などの特定の特殊なフィルム効果はすべて許容されます。

ラベルは現在、YouTube モバイル アプリから始まり、デスクトップとテレビに続いて、今後数週間にわたって展開されます。

このニュースは、Twitchがディープフェイクコンテンツに対して措置を講じてからほぼ1年後に発表され、ディープフェイクコンテンツの宣伝や作成は無期限の停止につながる可能性があると警告しました。