Przerabiali zdjęcia i "rozbierali" koleżanki z klasy. Potem je szantażowali

Małym hiszpańskim miastem Almendralejo wstrząsnęła afera z udziałem generatywnej sztucznej inteligencji. Narzędzie wykorzystano do stworzenia fałszywych nagich zdjęć dziewczynek, które następnie rozsyłano na ich telefony.

Zdjęcia dziewczynek były pobierane z ich profili na Instagramie.

Generatywna sztuczna inteligencja jest ostatnio na topie, a narzędzia jak ChatGPT, DALL-E i podobne biją rekordy popularności. Oczywiście, jak w zasadzie każde narzędzie, które trafi w nieodpowiednie ręce, również i ta technologia może zostać wykorzystana do złych celów. W hiszpańskim mieście Almendralejo ktoś zaczął wysyłać młodym uczennicom ich fałszywe nagie zdjęcia. Obrazy te powstały w oparciu o zdjęcia, które dziewczyny umieściły w sieciach społecznościowych, a mianowicie na Instagramie. Zdjęcia te zostały również upublicznione na grupach WhatsApp, a rodzice wyrażają obawy, czy nie znalazły się również na stronach pornograficznych i witrynach typu OnlyFans.

Zdjęcia dziewczynek w wieku od 11 lat były przerabiane w aplikacji ClothOff* i wysyłane do nich w celu szantażu. Przy próbie oporu zdjęcia trafiały do sieci. Śledztwo wykazało, że sprawcy to uczniowie tej samej szkoły.

Matki ofiar połączyły siły, aby zaprotestować przeciwko temu incydentowi, co spowodowało wszczęcie dochodzenia policyjnego. Zidentyfikowano już kilku nieletnich rzekomo zaangażowanych w rozpowszechnianie tych fałszywych obrazów. Najmłodsza ofiara tego ataku miała zaledwie 11 lat, a  śledztwo wykazało, że całym procederze udział mieli również inni uczniowie z jej klasy. W niektórych przypadkach dochodziło do wymuszeń finansowych, a w przypadku odmowy, nagie zdjęcia trafiały do sieci.

Materiały deepfake zostały stworzone za pomocą aplikacji ClothOff*, która reklamowała się hasłem „Odsłaniaj każdego, rozbieraj dziewczyny za darmo”. Ta aplikacja pozwalała użytkownikom na cyfrowe usuwanie ubrań z osób na zdjęciach w ich galerii na telefonie. Za 10 dolarów można było wygenerować do 25 fałszywych, nagich zdjęć. Matki podkreślają, że choć te zdjęcia były całkowicie sfabrykowane, to emocjonalne cierpienie ich córek było autentyczne.

Manuel Cancio, profesor prawa karnego na Uniwersytecie w Madrycie, zwrócił uwagę na dylematy prawne związane z deepfake. Aktualne przepisy w Hiszpanii i innych krajach Unii Europejskiej nie regulują odpowiednio tej kwestii. Cancio zasugerował, że można by to potencjalnie zakwalifikować jako przestępstwo przeciwko integralności moralnej, wypełniając tym samym lukę prawna dotyczącą tego typu działalności.

W marcu 2022 roku Komisja Europejska zaproponowała uwzględnienie takich przestępstw w dyrektywie o cyberprzestępczości. Jednak jak dotąd, jedynym krajem, który posiada odpowiednie ramy prawne do regulacji tego typu działań, jest Holandia.

Eksperci różnią się zdaniem, co do tego, czy można to zakwalifikować jako rozpowszechnianie dziecięcej pornografii, co groziłoby surowszymi karami. Z raportu Guardian wynika, że już teraz w darknecie można znaleźć pornografię dziecięcą generowaną przez sztuczną inteligencję.

Sprawa niestety pokazuje również, jak ważne jest dbanie o swoją prywatność i powściągliwość w umieszczaniu swoich zdjęć w sieci, zwłaszcza publicznie.