Meta walczy z deepfake. Nowe narzędzie oznaczy wideo generowane przez AI

W erze gwałtownego wzrostu liczby deepfake’ów, Meta ogłosiła wprowadzenie narzędzia, które może pomóc w walce z tym zjawiskiem. Według platformy weryfikacji tożsamości Sumsub, liczba deepfake’ów wzrosła czterokrotnie między 2023 a 2024 rokiem, a obecnie stanowią one 7% wszystkich przypadków oszustw.

Deepfake’i wykorzystywane są do podszywania się pod osoby, przejmowania kont czy zaawansowanych kampanii socjotechnicznych. Nowe narzędzie Meta, nazwane Meta Video Seal, umożliwia dodawanie niewidocznych znaków wodnych do materiałów wideo generowanych przez sztuczną inteligencję. Narzędzie, udostępnione jako open source, można zintegrować z istniejącym oprogramowaniem. Video Seal dołącza zatem do innych rozwiązań Meta, takich jak Watermark Anything oraz Audio Seal.

„Video Seal zostało opracowane z myślą o skuteczniejszym dodawaniu znaków wodnych, szczególnie przy wykrywaniu materiałów wideo generowanych przez AI” - powiedział Pierre Fernandez, badacz AI w Meta, w rozmowie z TechCrunch.

Meta Video Seal rozwiąże rosnące problemy?

Video Seal wyróżnia się na tle istniejących technologii znakowania wodnego, takich jak SynthID od DeepMind czy rozwiązania Microsoftu. Fernandez zaznacza, że wiele obecnych narzędzi nie radzi sobie z popularnymi metodami kompresji, które są powszechne na platformach społecznościowych, oraz z bardziej zaawansowanymi edycjami wideo. Video Seal potrafi dodać do materiałów wideo ukryte komunikaty, które pozwalają zidentyfikować ich źródło, a także jest odporny na kompresję, rozmycia czy przycinanie.

Mimo swoich zalet narzędzie ma ograniczenia. Silna kompresja lub znaczące edycje mogą osłabić skuteczność znaków wodnych lub je zniszczyć. Największym wyzwaniem dla Video Seal jest jednak przekonanie branży do jego przyjęcia, zwłaszcza tych, którzy już korzystają z własnych rozwiązań.