YouTube stellt neues Tool zur Identifizierung von Deepfake-Inhalten vor

YouTube hat ein neues Tool zur Bekämpfung von KI-generierten Inhalten und zur Identifizierung von Deepfakes auf der Plattform angekündigt.

Mit der Verbesserung der KI-Technologie verbessert sich auch die Möglichkeit, sie für schändliche Zwecke zu nutzen, beispielsweise um das Gesicht einer anderen Person auf den Körper einer anderen Person zu setzen. Dieser Vorgang wird Deepfaking genannt und hat in der Streaming-Welt bereits für großen Aufruhr gesorgt.

Bereits im November 2023 gab YouTube bekannt , dass es Nutzern gestatten würde, KI-Inhalte zu streichen, die sich als sie ausgeben, und jetzt hat das zu Google gehörende Unternehmen neue Schritte unternommen, damit YouTuber KI-generierte Inhalte offenlegen können.

In einem Blogbeitrag erklärte YouTube, dass das neue Tool in Creator Studio von den Erstellern verlangen wird, KI- oder veränderte Inhalte offenzulegen, die leicht mit echten Aufnahmen einer Person, eines Ortes oder eines Ereignisses verwechselt werden könnten.

Neues YouTube-Label nimmt Deepfakes ins Visier

Die Haftungsausschlüsse für KI-Inhalte werden jetzt als Labels auf Videos angezeigt, wobei eines der wichtigsten Beispiele Deepfakes ist.

Beispielsweise erfordert die „digitale Veränderung von Inhalten, um das Gesicht einer Person durch das einer anderen zu ersetzen, oder die synthetische Generierung der Stimme einer Person zum Erzählen eines Videos“ eine Kennzeichnung.

„Ersteller müssen Inhalte offenlegen, die: den Eindruck erwecken, dass eine reale Person etwas sagt oder tut, was sie nicht getan hat, das Filmmaterial eines realen Ereignisses oder Ortes verändert, eine realistisch aussehende Szene erzeugt, die nicht tatsächlich stattgefunden hat“, sagt das Unternehmen .

Darüber hinaus kann YouTube sogar manuell ein Label hinzufügen, selbst wenn ein Ersteller es nicht offengelegt hat, wenn der Inhalt die Leute möglicherweise verwirren könnte.

Es gibt jedoch einige Situationen, vor allem „unbedeutende“, in denen YouTube keine Kennzeichnung für KI-Inhalte verlangt.

Extrem unrealistische Inhalte, Schönheitsfilter und bestimmte spezielle Filmeffekte wie Unschärfen und Farbanpassungen sind allesamt akzeptabel.

Derzeit werden in den nächsten Wochen Labels eingeführt, beginnend mit der mobilen YouTube-App, gefolgt von Desktops und Fernsehern.

Die Nachricht kommt fast ein Jahr, nachdem Twitch gegen Deepfake-Inhalte vorgegangen ist und gewarnt hat, dass die Förderung oder Erstellung solcher Inhalte zu einer Sperrung auf unbestimmte Zeit führen könnte.