Fałszywe porno z Emmą Watson na skraju pedofilii? Nowe problemy z fake porn

Twórcy mocno napiętnowanych ostatnio w prasie materiałów z gatunku "fake porn", znanych jako deepfakes, stoją w obliczu nowego problemu. Przykład znanej aktorki Emmy Watson pokazał, że można zostać posądzonym o nawet nieumyślnie tworzenie materiałów z nieletnimi.

Do stworzenia fałszywego porno, w którym twórcy za pomocą Sztucznej Inteligencji przeszczepiają twarz celebrytek w ciała aktorek porno potrzeba całego zestawu zdjęć znanej osoby. Kolekcja zdjęć jest używana do trenowania algorytmu, który tworzy gotowy materiał. W rozpowszechnianej w internecie paczce zdjęć z Emmą Watson znajdują się liczne wizerunki, kiedy posiadała mniej niż 18 lat. Jeśli ktoś wykorzysta wizerunki z paczką zdjęć Emmy do stworzenia deepfake'a, to właściwie stworzył film porno z częściowym obliczem nieletniej, bez zgody osoby, od której pobrano wizerunek. Osoby tworzące filmy zwane jako deepfake oraz wymieniające się wspomnianymi pakietami ze zdjęciami do tworzenia materiałów filmowych, same obawiają się konsekwencji jakie może powodować generowanie takich filmików. Wydali oni nawet ostrzeżenia, że paczki ze zdjęciami młodych celebrytek mogą zawierać ich zdjęcia, gdy nie posiadały 18 lat. "Skasowałem wszystkie posty z Elle Fanning ponieważ nie jest możliwe do udowodnienia, że miała ona 18 lat na zdjęciach treningowych" - powiedział jeden z użytkowników forum z filmami deepfake - "Lepiej się zabezpieczać niż żałować".

Pierwsze zachwyty nad "kreatywnym" wykorzystaniem Sztucznej Inteligencji powoli opadają, a w ich miejsce pojawiają się nowe problemy

Na serwerze Discord, który niedawno został skasowany, użytkownicy dyskutowali nad tym czy możliwe było, że zestawy zdjęć wykorzystane do stworzenia fałszywego porno mogły zawierać zdjęcia celebrytek poniżej 18 lat. Zestaw zdjęć przedstawiający zbliżenia twarzy Emmy Watson zawiera również zdjęcia z okresu pierwszych filmów z serii Harry Potter, kiedy Emma miała około 10 lat. Podobnie sprawa wygląda z zestawami zdjęć Fanning. Nie wiadomo jak te obrazy trafiły do paczek zdjęć. Możliwe, że oprogramowanie do rozpoznawania twarzy jak FaceTracker czy Face Detector, które skanuje materiały wideo i przechwytuje obrazy z twarzą wybranej osoby, z automatu pozyskało również wizerunki gdy aktorki nie były pełnoletnie. Jeden z zestawów z Watson dla przykładu zawiera również zdjęcie aktora, który wciela się w rolę Neville'a Longbottom'a, co pokazuje, że zestawy zawierają zdjęcia, których tam być nie powinno. W 2013 roku w USA powstało prawo, które klasyfikuje generowane komputerowo porno dziecięce jako obsceniczne i zakazane. Oznacza to, że twórcy mogą być pozwani nie tyle za pedofilię, co za obsceniczność, generowanie i posiadanie tych wygenerowanych komputerowo filmów z dziecięcą pornografią, mimo że żadne dziecko nie było w ten proceder zaangażowane. W USA za taki proceder grozi nawet 20 lat więzienia. Jeśli jednak zostanie podciągnięte to pod zarzut tworzenia dziecięcej pornografii, wyrok może być nawet o 10 lat dłuższy. Niestety problem wirtualnej pornografii nie jest niczym nowym, jednak powstanie zjawiska takiego jak deepfake, tworzy całą sprawę jeszcze bardziej skomplikowaną. Specjaliści są w tym temacie podzieleni i część uważa, że póki to tylko twarz, a nie ciało dziecka jest uwidocznione w materiale, to właściwie nie ma problemu. Nawet jeśli taką wersję podtrzymają również sądy, to jak twierdzą inni prawnicy "To jest po prostu złe". Wszystko zależy również od efektu końcowego takiego materiału filmowego.