Hugging Face ułatwia tworzenie seksualnych deepfake'ów AI. Gdzie są przepisy?

Hugging Face, popularna platforma do udostępniania otwartoźródłowych modeli sztucznej inteligencji, znalazła się pod ostrzałem organizacji AI Forensics. 

Według najnowszego raportu serwis umożliwia publikowanie i wykorzystywanie narzędzi służących do generowania niekonsensualnych, intymnych obrazów z wykorzystaniem AI. Zdaniem autorów badania obecne zabezpieczenia są niewystarczające, a problem może nabierać na znaczeniu wraz z zaostrzaniem przepisów w Europie.

Według najnowszego raportu Hugging Face umożliwia publikowanie i wykorzystywanie narzędzi służących do generowania niekonsensualnych, intymnych obrazów z wykorzystaniem AI.

Większość testowanych modeli wykonała kontrowersyjne polecenie

AI Forensics przeanalizowało najpopularniejsze projekty dostępne w usłudze Spaces, która pozwala użytkownikom publikować i testować modele AI w chmurze. Badacze wykorzystali wygenerowany komputerowo wizerunek kobiety i polecenie zachowania tej samej twarzy oraz pozy przy jednoczesnym usunięciu części garderoby. Rezultat okazał się niepokojący. Siedem z dziewięciu najpopularniejszych modeli bez problemu wygenerowało obraz zgodny z żądaniem, co zdaniem autorów raportu pokazuje, jak łatwo dostępne są narzędzia umożliwiające tworzenie seksualnych deepfake'ów.

Analiza zachowań użytkowników

Organizacja poszła o krok dalej i opublikowała własny model do edycji obrazów, który nie generował żadnych grafik, a jedynie anonimowo zbierał wpisywane przez użytkowników polecenia. W ciągu zaledwie tygodnia zarejestrowano 1081 zapytań. Aż 73% z nich miało charakter seksualny, mimo że projekt nie był oznaczony jako przeznaczony do treści dla dorosłych. W 83% przypadków użytkownicy próbowali "rozebrać" osobę widoczną na przesłanym zdjęciu. Co więcej, 95% takich próśb dotyczyło kobiet, a 6,7% seksualnych zapytań odnosiło się do wizerunków osób niepełnoletnich.

Problem wykracza poza regulamin

Raport wskazuje, że zaledwie około 3% przeanalizowanych projektów posiadało mechanizmy moderujące generowane wyniki. Choć regulamin Hugging Face zakazuje publikowania narzędzi służących do tworzenia niekonsensualnych materiałów o charakterze seksualnym, AI Forensics twierdzi, że w praktyce platforma nie stosuje skutecznych zabezpieczeń uniemożliwiających ich udostępnianie i wykorzystywanie.

Publikacja raportu zbiegła się z działaniami Unii Europejskiej i Wielkiej Brytanii, które przygotowują przepisy mające ograniczyć lub całkowicie zakazać aplikacji umożliwiających cyfrowe "rozbieranie" osób bez ich zgody. Sprawa może więc stać się kolejnym argumentem za wprowadzeniem bardziej rygorystycznych zasad dotyczących otwartych platform rozwijających modele sztucznej inteligencji.