YouTube będzie automatycznie wykrywać deepfake. Przynajmniej tak twierdzi Google

Deepfake to ogromny problem, który obecny jest także na YouTube. Platforma postanowiła jednak coś z tym zrobić i ograniczyć nadużycia związane ze sztuczną inteligencją.

Jednym z wyzwań jest wykorzystanie AI do generowania materiałów imitujących czyjś wygląd lub głos bez zgody tej osoby. Teraz Google zdecydowało się rozszerzyć dostęp do narzędzia wykrywającego takie materiały na YouTube.

Platforma będzie automatycznie wyszukiwać materiały generowane przez AI

Funkcja wykrywająca wizerunek działa w sposób zbliżony do Content ID. W praktyce oznacza to, iż platforma automatycznie przeszukuje swoje zasoby w poszukiwaniu materiałów stworzonych przez sztuczną inteligencję, które mogą wykorzystywać czyjąś twarz lub głos. Jeśli ktoś znajdzie treści naruszające jej prawa, może zgłosić je do usunięcia.

YouTube walczy z deepfake

YouTube rozszerzył teraz dostęp do tego narzędzia m.in. o agencje talentów, aktorskie oraz firmy, z którymi współpracują osoby publiczne. To kolejny etap wdrażania tej technologii, która wcześniej była oferowana w ograniczonym zakresie. Na początku tego roku rozwiązanie trafiło do polityków dziennikarzy oraz kandydatów w wyborach.

Jednym z wyzwań jest wykorzystanie AI do generowania materiałów imitujących czyjś wygląd lub głos bez zgody tej osoby. Teraz Google zdecydowało się rozszerzyć dostęp do narzędzia wykrywającego takie materiały na YouTube.

Problem z deepfake’ami nie jest nowy, lecz rozwój generatywnej sztucznej inteligencji znacząco go pogłębił. Tworzenie realistycznych materiałów, które trudno odróżnić od prawdziwych nagrań, stało się prostsze oraz bardziej dostępne niż kiedykolwiek wcześniej. W efekcie pojawiły się liczne przypadki wykorzystywania wizerunku znanych osób bez ich wiedzy, co rodzi zarówno kwestie prawne, jak i etyczne.

Google robi porządek

Wprowadzenie i rozwijanie narzędzi takich jak to może być ważnym krokiem w kierunku uporządkowania sytuacji. Choć nie rozwiązuje to całkowicie problemu, daje osobom publicznym i instytucjom realne narzędzie do reagowania na nadużycia. Jednocześnie pokazuje, że platformy internetowe zaczynają poważniej traktować wyzwania związane z AI i jej wpływem na prywatność oraz bezpieczeństwo użytkowników.

Na razie trudno jednoznacznie ocenić, jak skuteczne okaże się to rozwiązanie w praktyce. Wiele zależy od dokładności algorytmów oraz szybkości reakcji na zgłoszenia.