YouTube udostępnia nowe narzędzie pomagające identyfikować fałszywe treści

YouTube ogłosił nowe narzędzie do zwalczania treści generowanych przez sztuczną inteligencję i identyfikowania deepfakes na platformie.

Wraz z postępem technologii sztucznej inteligencji rośnie także możliwość wykorzystania jej do niegodziwych celów, takich jak nakładanie twarzy innej osoby na ciało innej osoby. Proces ten nazywany jest deepfakingiem i wywołał już duże zamieszanie w świecie streamingu.

W listopadzie 2023 r. YouTube ujawnił , że umożliwi użytkownikom usuwanie treści AI podszywających się pod nich, a teraz firma należąca do Google podjęła nowe kroki, aby twórcy mogli ujawniać treści generowane przez sztuczną inteligencję.

W poście na blogu YouTube wyjaśnił, że nowe narzędzie w Studiu twórców będzie wymagało od twórców ujawnienia sztucznej inteligencji lub zmienionych treści, które można łatwo pomylić z prawdziwym materiałem filmowym przedstawiającym osobę, miejsce lub wydarzenie.

Nowa wytwórnia YouTube celuje w deepfakes

Zastrzeżenia dotyczące treści AI będą teraz wyświetlane jako etykiety na filmach z jednym z kluczowych przykładów, w tym deepfakes.

Na przykład „cyfrowe zmienianie treści w celu zastąpienia twarzy jednej osoby twarzą innej osoby lub syntetyczne generowanie głosu danej osoby w celu narracji w filmie” będzie wymagać etykiety.

„Twórcy muszą ujawniać treści, które: sprawiają, że prawdziwa osoba wydaje się mówić lub robić coś, czego nie zrobiła, zmieniają materiał filmowy przedstawiający prawdziwe wydarzenie lub miejsce, tworzą realistycznie wyglądającą scenę, która w rzeczywistości nie miała miejsca” – twierdzi firma .

Ponadto YouTube może nawet ręcznie dodać etykietę, nawet jeśli twórca jej nie ujawnił, jeśli treść mogłaby potencjalnie wprowadzić ludzi w błąd.

Są jednak pewne sytuacje, głównie „nieistotne”, w których YouTube nie będzie wymagał etykiety dla treści AI.

Dopuszczalne są wyjątkowo nierealistyczne treści, filtry upiększające i niektóre specjalne efekty filmowe, takie jak rozmycie i dopasowanie kolorów.

Etykiety będą obecnie wprowadzane w ciągu najbliższych kilku tygodni, począwszy od aplikacji mobilnej YouTube, a następnie na komputerach stacjonarnych i telewizorach.

Wiadomość pojawia się prawie rok po tym, jak Twitch podjął działania przeciwko treściom typu deepfake , ostrzegając, że promowanie lub tworzenie ich może skutkować zawieszeniem na czas nieokreślony.