Quiz AI. Odróżnisz prawdziwe zdjęcia od fałszywych?

Od momentu pojawienia się generatorów obrazów opartych na sztucznej inteligencji, kwestia dezinformacji stała się jednym z najpoważniejszych wyzwań w cyfrowym świecie. Choć coraz większa ekspozycja na obrazy tworzone przez AI uczy nas pewnej czujności, nowe badania Microsoftu wskazują, że niektóre fałszywe fotografie nadal potrafią zmylić niemal każdego.

Microsoft postanowił zbadać tę kwestię i stworzył specjalny quiz, w którym wzięło udział 12,5 tys. osób z całego świata, które obejrzały 15 zdjęć wyselekcjonowanych z 287 tys. obrazów i część z nich pochodziła z profesjonalnych bibliotek zdjęć, a część wygenerowały popularne modele AI. 

Wyniki mogą zaskakiwać, bo ludzie trafnie rozpoznawali autentyczne fotografie średnio w 63% przypadków, a największą skuteczność (65%) osiągali przy ocenie wizerunków ludzi. Najwięcej problemów sprawiały tzw. GAN deepfakes – zwłaszcza te pokazujące profile twarzy lub wykorzystujące technikę inpaintingu do wklejania elementów AI w realne zdjęcia. Te obrazy myliły aż 55% badanych. Dla porównania, opracowywane przez Microsoft narzędzie do wykrywania grafik AI osiągało skuteczność 95%.

Nowe badania Microsoftu wskazują, że niektóre fałszywe fotografie nadal potrafią zmylić niemal każdego.

Dlaczego deepfake'i są tak wiarygodne?

Paradoksalnie, starsze metody generowania obrazów, takie jak Generative Adversarial Networks (GAN), okazują się bardziej przekonujące niż nowoczesne modele. Powód jest prosty: zawierają mniej szczegółów, które zwykle „zdradzają” AI. Dodatkowo ich estetyka przypomina nieco gorszej jakości zdjęcia z amatorskich aparatów, co sprawia, że wyglądają bardziej naturalnie niż perfekcyjnie wygładzone obrazy tworzone przez najnowsze narzędzia.

Jak AI staje się coraz trudniejsze do wykrycia

Zespół badawczy zauważył, że podpowiedzi (prompty) mają kluczowe znaczenie dla realizmu obrazów. Na przykład dodanie zwyczajnych nazw plików zdjęciowych sprawia, że grafiki wyglądają autentyczniej. Co więcej, modele takie jak Flux Pro potrafią tworzyć fotografie, które przypominają ujęcia ze smartfona z realistycznym poziomem szumu, jasności i ostrości. Z kolei obrazy krajobrazów naturalnych i miejskich bez ludzi były szczególnie trudne do zidentyfikowania. Najbardziej mylące z nich uzyskały zaledwie 21% i 23% trafnych rozpoznań.

Co ciekawe, niektóre prawdziwe fotografie również zostały błędnie uznane za sztuczne. Dotyczyło to nietypowych ujęć wojsk amerykańskich, np. z dziwnym oświetleniem, kolorystyką i czasem naświetlania. Najniższy wskaźnik trafności dla prawdziwego zdjęcia wyniósł zaledwie 12%.

Wnioski: potrzeba jasnego oznaczania grafik AI

Microsoft ostrzega, że wiedza o tym, jakie prompty tworzą najbardziej przekonujące obrazy, może być wykorzystana do manipulacji i dezinformacji na niespotykaną dotąd skalę. Dlatego badacze podkreślają konieczność wyraźnego oznaczania obrazów generowanych przez sztuczną inteligencję, zarówno w mediach społecznościowych, jak i w serwisach informacyjnych.