Jest aplikacja oparta o SI do tworzenia fałszywego porno. Internet szaleje

Niedawno pisaliśmy o użytkowniku, który stworzył opartą o Sztuczną Inteligencję metodę przeszczepiania twarzy na materiałach wideo, którą wykorzystał w najbardziej oczywistym celu, który napędza większość internetu. Teraz powstała przyjazna użytkownikowi aplikacja do tworzenia fałszywych nagrań porno, polegających na przeszczepianiu twarzy celebrytek w miejsce aktorek porno, co wywołało prawdziwą eksplozję.

Obecnie obserwujemy wysyp przekonujących materiałów, które zaczynają się pojawiać również w serwisach pornograficznych. Niedawno pisaliśmy o użytkowniku portalu Reddit posługującego się pseudonimem "deepfakes", który po cichu oddawał się swojemu hobby polegającemu na przeszczepianiu twarzy znanych postaci do ciał aktorek porno. Stworzył on kilka całkiem sensownie wyglądających materiałów, w których wykorzystał algorytm uczenia maszynowego, do wypuszczenia w sieci fałszywek z Gal Gadot, Maisie Williams czy Taylor Swift. Odkąd pisaliśmy po raz pierwszy o takich fałszywkach, praktyczna ich produkcja z wykorzystaniem Sztucznej Inteligencji niesamowicie się rozwinęła i coraz więcej ludzi tworzy tego typu materiały, osiągając coraz lepsze rezultaty w wiarygodności. Kolejny użytkownik Reddita stworzył nawet dedykowaną aplikację, zaprojektowaną dla osób, które nie są zbyt biegłe w obsłudze komputera, tak by one również mogły tworzyć opierające się o SI materiały z kategorii "fake porn". Wszystko co jest potrzebne do otworzenia domowej wytwórni pornograficznej jest darmowe, ogólnie dostępne i świetnie opisane, by nowicjusze gładko przeszli przez cały proces.

Aplikacja o której mowa nazywa się FakeApp i ma ona pomóc w tworzeniu materiałów, które na cześć pioniera nazwano deepfakes. Aplikacja bazuje na algorytmach stworzonych przez deepfake'a, jednakże nie miał on żadnego udziału w tworzeniu programu. Jej twórca deepfakeapp podkreśla, że chciał, aby ta technologia stała się dostępna dla osób bez technicznego wsparcia i doświadczenia w programowaniu. "Myślę, że obecna wersja aplikacji to dobry początek, jednakże mam nadzieję rozwinąć ją w nadchodzących tygodniach" - powiedział deepfakeapp - "Ewentualnie rozwinę ją o opcje, w których użytkownicy będą mogli najzwyczajniej wybrać film, ściągnąć sieć neuronową powiązaną z konkretną twarzą z publicznej biblioteki i podmienić twarze jednym guzikiem".

Niesamowicie prosta aplikacja do tworzenia fałszywych nagrań wideo, zarówno zwykłego porno, "revenge porn", ale również politycznych przemówień, czy na dobrą sprawę wszystkiego co można wymyślić może zmienić całkowicie sposób w jaki odbieramy media

Na początku tego miesiąca naukowiec Peter Eckersley z Electronic Frontier Foundation wypowiadał się na temat wpływu tej technologii na społeczeństwo: "Jesteśmy na progu kiedy ta technologia może stać się łatwa i powszechna" - powiedział Eckersley, dodając, że w chwili obecnej materiały deepfakes są trudne do wykonania - "Można stworzyć fałszywki wykorzystując sieć neuronową, jednakże po bliższym przyjrzeniu się, widać, że to podróbka, choć część technik jest całkiem zaawansowana. To jednak nie stanie się rzeczywiste przez rok albo dwa". Można powiedzieć, że jego słowa już są nieaktualne, a w sieci pojawiają się coraz bardziej realistyczne produkcje, tworzone przez ogrom ludzi eksperymentujących z SI. Użytkownik UnobtrusiveBot wstawił twarz Jessici Alby w ciało Melanie Rios, kolejny o pseudonimie nuttynutter6969 wykorzystał wizerunek  Daisy Ridley. Część takich materiałów przeniknęła nawet do popularnych stron publikujących wykradzione materiały gwiazd.

Nie tylko porno

Większość postów w kategorii r/deepfakes to filmy porno, jednakże część użytkowników postanowiła być bardziej kreatywna. Pokazując, że można umieścić każdego w każdym ciele, co może mieć różne konsekwencje w rzeczywistym świecie. Z3ROCOOL22 przedstawił nagranie ukazujące prezydenta Argentyny Mauricio Macri z twarzą Hitlera.

Podmiana twarzy księżniczki Lei z Rogue One wykonana przez użytkownika derpfake pokazuje, jak aplikacja deepfakeapp sobie dobrze radzi. Wersja uzyskana w aplikacji wygląda bardzo przekonująco, nawet w porównaniu z oryginałem, oczywiście biorąc pod uwagę, że to niskiej jakości gif, ale jednak. "Mam nadzieję, że w najbliższej przyszłości uczenie maszynowe takie jak to, stanie się powszechnie dostępne i da zwykłym ludziom możliwość sprawdzenia i tworzenia wysokiej jakości manipulacji, co jest póki co domeną wielkich firm SFX" - powiedział deepfakeapp.