Sztuczna Inteligencja tworzy fałszywe filmy porno. Jest nawet z Gal Gadot

Ktoś użył algorytmu by wkleić twarz aktorki wcielającej się w rolę "Wonder Woman" do filmu porno. W sieci pojawił się film, na który Gal Gadot rzekomo uprawia seks ze swoim bratem przyrodnim. Oczywiście z aktorką nie ma to nic wspólnego. Jest to aproksymacja, zamiana twarzy (face swap), która ma sprawić, że widz uwierzy, że ogląda autentyczny materiał. 

Materiał został stworzony z wykorzystaniem algorytmu uczenia maszynowego, łatwo dostępnych materiałów i darmowego, otwartego kodu, co ktoś posiadający wiedzę z zakresu algorytmów głębokiego uczenia poskładał razem. Głębokie uczenie to pochodna uczenia maszynowego, polegająca na tworzeniu sieci neuronowych, których celem jest rozpoznawanie głosu czy też wizji. Oczywiście materiał ten nie powinien nikogo zmylić, bo przy dokładniejszym przyjrzeniu można wychwycić niedoskonałości w nakładaniu twarzy, choć na pierwszy rzut oka może to wyglądać wiarygodnie. Takie wykorzystanie Sztucznej Inteligencji może niepokoić, zwłaszcza, że do uzyskania takiego efektu wystarczyła tylko jedna osoba - użytkownik portalu Reddit, za którym nie stoi potężne studio zajmujące się efektami komputerowymi. Zamiast tego osoba o pseudonimie "deepfakes" wykorzystuje darmowe narzędzia w stylu TensorFlow, które Google udostępnia za darmo badaczom, studentom i każdemu pasjonatowi uczenia maszynowego.

Każda technologia może być użyta ze złych pobudek i nie ma możliwości by to powstrzymać - powiedział twórca filmów, podkreślając, że ta sama technologia została wykorzystana by odtworzyć pośmiertnie Paula Walkera w Furious 7 - Główna różnica polega na tym, jak łatwo każdy może to zrobić. Nie uważam, żeby to było coś złego, że więcej przeciętnych ludzi zaangażuje się w badania nad uczeniem maszynowym

Podobnie jak algorytm Face2Face, który potrafi zmieniać ruchy twarzy nagranego wideo w czasie rzeczywistym, ten nowy typ porno pokazuje, że żyjemy w świecie, w którym banalnie prosto jest sfabrykować przekonujące materiały, na których widać osoby robiące rzeczy, których w rzeczywistości nie robili. Włączając w to udział w produkcji pornograficznej. Jak dotąd deepfakes opublikował filmy pornograficzne z "udziałem" Scarlett Johansson, Maisie Williams, Taylor Swift, Aubrey Plaza i Gal Gadot. Produkcje te cieszą się ogromną popularnością, jako że są najnowszym osiągnięciem w tej dziedzinie, posuwając naprzód znane od lat fałszywki, które do tej pory ograniczały się do znanego od lat przeklejania twarzy aktorek do zdjęć gwiazd porno. Aby skompilować twarze celebrytów używane są zdjęcia z zasobów Google i filmiki z YouTube. Metoda głębokiego uczenia składa się z sieci połączonych węzłów, które autonomicznie uruchamiają przetwarzanie na materiale źródłowym. Po skończeniu uczenia, węzły same organizują się do skończenia zadania, takiego jak przekonująca manipulacja materiału wideo w czasie rzeczywistym. "Znalazłem sprytny sposób na zamianę twarzy" - powiedział twórca filmików - "Wykorzystując setki zdjęć twarzy, mogę z łatwością wygenerować miliony zniekształconych zdjęć, by trenować sieć. Potem karmię sieć zdjęciami innej osoby i sieć myśli, że to kolejne zniekształcone zdjęcie i stara się poprawić je, by wyglądało jak zdjęcie treningowe". Algorytm, którym posługuje się deepfakes jest bardzo podobny do tego, który opracowała Nvidia, pozwalający choćby na zmianę pogody na zdjęciach. Niestety badacze Nvidii odmówili odpowiedzi na pytanie, czy ich algorytmy można wykorzystywać również do zamiany twarzy.