Bot deepfake pobiera i przerabia zdjęcia. Dziesiątki tysięcy "rozebranych" poszkodowanych kobiet

Grupa Sensity, która bada fałszywe obrazy i inne podrobione formy wizualne, ujawnia, że na platformie komunikacyjnej Telegram udostępniono bezpłatnie robota typu deepfake. Dzięki temu botowi użytkownicy publicznie udostępnili nagie zdjęcia deepfake tysięcy kobiet, które stworzono na podstawie powszechnie dostępnych zdjęć z mediów społecznościowych. Doniesienia mówią o ponad 100000 sfałszowanych nagich zdjęć kobiet, powstałych na podstawie udostępnionych przez nie publicznie obrazów z mediów społecznościowych. Ten rodzaj technologii deepfake nie jest niczym nowym. Od lat podobne oprogramowanie jest wykorzystywane do tworzenia fałszywych treści pornograficznych przedstawiających celebrytów.

Udostępniony na Telegramie bot pobiera publiczne zdjęcia kobiet z platform społecznościowych i je "rozbiera".

Ten dramatyczny wzrost liczby obrazów deepfake jest wynikiem działania bota znajdującego się na kanale prywatnym aplikacji do przesyłania wiadomości Telegram. Użytkownicy mogą wysyłać zwykłe zdjęcia kobiet, a bot rozbiera je i rozpowszechnia na platformie komunikacyjnej. Administrator serwisu znany jako "P" jasno wyraża swoje zdanie na ten temat: "Nie obchodzi mnie to za bardzo. To rozrywka, która nie niesie ze sobą przemocy". "P" dodał, że jakość obrazów jest na tyle nierealistyczna, że ​​nie można ich użyć do szantażu i bagatelizuje szkodliwość aplikacji, stwierdzając: "Są wojny, choroby, wiele złych rzeczy, które są szkodliwe na świecie". 

Sensity stwierdza, że ​​między lipcem 2019 a 2020 roku aż 10500 kobiet stało się ofiarą udostępnionych publicznie przerobionych obrazów. Dalsze badania stron, na których reklamowano bota deepfake, ujawniły, że liczba ta może w rzeczywistości być bliższa niewiarygodnym 680000 osobom. "Posiadanie konta w mediach społecznościowych z publicznymi zdjęciami wystarczy, aby każdy stał się celem" - ostrzegł dyrektor generalny Sensity, Giorgio Patrini. Wiekszość użytkowników bota ma pochodzić z Rosji i krajów byłego ZSRR. Chociaż technologia nie jest nowatorska, Patrini twierdzi, że atakowanie osób prywatnych jest "stosunkowo nową" praktyką. Niektóre odkryte przez BBC zdjęcia podobno przedstawiają osoby wyglądające na nieletnie, "co sugeruje, że niektórzy użytkownicy używali bota głównie do generowania i udostępniania treści pedofilskich", choć administrator twierdzi, że natychmiast usuwa takie zdjęcia. Autorzy raportu z Sensity udostępnili pozyskane przez siebie informacje organom ścigania oraz platformom społecznościowym, jednak nie otrzymali żadnej odpowiedzi.