Meta udostępniła detektor AI - nie rozpoznaje nawet własnych fejków

Meta zaprezentowała nowe narzędzie do wykrywania obrazów wygenerowanych przez sztuczną inteligencję, przedstawiając je jako ważny element walki z fałszywymi materiałami. Firma przekonywała, że system potrafi rozpoznać grafiki stworzone przez model Muse Image nawet po ich edycji, jednak niezależny test przeprowadzony przez agencję Reuters szybko zweryfikował te deklaracje. Okazało się, że zwykłe przycięcie obrazu wystarczyło, aby detektor nie rozpoznał ponad połowy wygenerowanych zdjęć.

Razem z premierą modelu Muse Image firma przedstawiła również własny detektor obrazów AI. Według zapowiedzi narzędzie miało identyfikować wszystkie grafiki wygenerowane przez nowy model, nawet jeśli zostały później poddane obróbce.

Za rozpoznawanie odpowiada niewidoczny dla użytkownika znak wodny nazwany Content Seal. Jest on osadzany bezpośrednio w każdym obrazie wygenerowanym przez Muse Image. Meta przekonywała, że taki sygnał pozostanie możliwy do wykrycia również po typowych zmianach wykonywanych przed publikacją zdjęcia. Praktyka okazała się znacznie mniej optymistyczna.

Reuters sprawdził system. Wyniki zaskakują

Dziennikarze Reuters wygenerowali 40 obrazów przy użyciu Muse Image i przesłali je do detektora Meta. Wszystkie zostały poprawnie oznaczone jako treści stworzone przez sztuczną inteligencję. Następnie wykonano prostą operację, którą każdego dnia wykonują miliony użytkowników internetu. Zdjęcia zostały przycięte do około jednej trzeciej lub połowy pierwotnego rozmiaru i ponownie przesłane do analizy.

Efekt okazał się zaskakujący. Detektor nie rozpoznał 55 procent obrazów po tak niewielkiej modyfikacji. W praktyce oznacza to, że zwykły kadr potrafi usunąć sygnał, na którym opiera się cały mechanizm wykrywania.

Meta zaprezentowała w tym tygodniu detektor obrazów AI, obiecując wychwycić wszystko, co wygeneruje model Muse Image, nawet po edycji. Test przeprowadzony przez Reuters wykazał, że po przycięciu obrazów narzędzie pomijało 55% z nich.

Content Seal nie jest odporny na każdą edycję

Po publikacji wyników Meta odniosła się do testów, przypominając, że narzędzie nadal pozostaje w fazie rozwoju. Firma podkreśliła, że znak wodny został zaprojektowany z myślą o przetrwaniu typowych zmian, jednak może zostać utracony po mocniejszym przycięciu obrazu.

To właśnie tutaj pojawia się największy problem. Kadrowanie należy do najczęściej wykonywanych operacji podczas publikowania zdjęć w mediach społecznościowych. Użytkownicy przycinają fotografie, aby dopasować je do proporcji Instagrama, Facebooka czy platformy X. Taką samą czynność mogą wykonać również osoby rozpowszechniające zmanipulowane materiały.

Nie tylko Meta ma podobny problem

Eksperci od dawna zwracają uwagę, że cyfrowe znaki wodne nie stanowią idealnego zabezpieczenia. Profesor Siwei Lyu z Uniwersytetu w Buffalo, specjalizujący się w analizie cyfrowych obrazów, wskazuje, że skuteczność takich systemów zależy od zachowania osadzonego sygnału.

Każda większa modyfikacja grafiki, obejmująca przycinanie, zmianę rozdzielczości, mocną kompresję czy zaawansowaną edycję, może osłabić lub całkowicie usunąć znacznik odpowiedzialny za identyfikację.

Podobne zastrzeżenia zgłaszały już wcześniej także Google i OpenAI. Obie firmy przyznawały, że ich technologie wykrywania obrazów generowanych przez sztuczną inteligencję nie gwarantują stuprocentowej skuteczności po ingerencji użytkownika.

Walka z deepfake'ami dopiero się rozpędza

Problem nabiera znaczenia w czasie, gdy kolejne państwa przygotowują przepisy dotyczące materiałów tworzonych przez sztuczną inteligencję. Platformy społecznościowe rozwijają systemy wykrywania fałszywych zdjęć i filmów, licząc na ograniczenie dezinformacji oraz prób manipulowania opinią publiczną.

Również sama Rada Nadzorcza Meta apelowała kilka miesięcy temu o większe inwestycje w technologie wykrywające treści generowane przez AI. Test Reutersa pokazuje jednak, że obecne rozwiązania nadal pozostawiają wiele do życzenia.

To dopiero początek wyścigu między AI a detektorami

Content Seal nie jest bezużytecznym rozwiązaniem. System skutecznie identyfikuje oryginalne obrazy wygenerowane przez Muse Image i utrudnia anonimowe publikowanie nieedytowanych grafik.

Problem pojawia się wtedy, gdy materiał trafia do dalszej obróbki. Nawet niewielkie zmiany potrafią znacząco obniżyć skuteczność wykrywania. Oznacza to, że twórcy deepfake'ów nadal dysponują prostymi metodami pozwalającymi ominąć zabezpieczenia.