Prokurator nie odpuszcza Apple i Google. Wciąz promują aplikacje do robienia nagich deepfake'ów

Prokurator miejski San Francisco David Chiu wysłał do Apple i Google formalne wezwania do zaprzestania działań, domagając się usunięcia z ich sklepów z aplikacjami łącznie 13 programów wykorzystujących sztuczną inteligencję do tworzenia fałszywych, rozbieranych zdjęć osób trzecich bez ich zgody.

Chiu zarzuca obu firmom "wspomaganie i podżeganie" do rozpowszechniania nieautoryzowanych, intymnych wizerunków oraz wzywa je do zerwania współpracy z twórcami tych aplikacji.

To nie pierwsza interwencja Chiu w tej sprawie - wcześniej złożył on pozew przeciwko 16 stronom internetowym, które umożliwiały przekształcanie zdjęć rzeczywistych kobiet i dziewcząt w treści pornograficzne za pomocą AI. Jak podkreślił w rozmowie z Wired, Apple i Google prawdopodobnie zarobiły miliony dolarów na płatnościach w aplikacjach tego typu, a moderacja obu sklepów wymaga wyraźnego wzmocnienia, by takie programy w ogóle nie przechodziły procesu zatwierdzania.

Prokurator nie ustaje. Kolejne wezwanie do gigantów technologicznych

Sprawa nabiera dodatkowej wagi w świetle wcześniejszego raportu organizacji Tech Transparency Project, który wykazał, że aplikacje tego typu regularnie omijały mechanizmy weryfikacyjne obu firm, a część z nich była nawet aktywnie promowana w App Store i Google Play. Raport zwracał również uwagę, że wiele z tych aplikacji miało kategorię wiekową "dla wszystkich", co teoretycznie umożliwiało pobieranie ich także dzieciom - mimo że regulaminy obu platform wprost zakazują treści seksualnych.

Obecne wezwanie ma charakter systemowy i dotyczy jednocześnie obu największych sklepów mobilnych na świecie, co znacząco zwiększa presję na zmianę procedur moderacyjnych w całej branży.

Apple i Google prawdopodobnie zarobiły miliony dolarów na płatnościach w aplikacjach tego typu

Problem deepfake'ów nie ogranicza się wyłącznie do Apple i Google. Rada Nadzorcza Mety wezwała niedawno firmę do wzmocnienia ochrony zwykłych użytkowników przed podobnymi treściami, wskazując, że obecne mechanizmy w praktyce lepiej chronią osoby publiczne. Również xAI Elona Muska mierzy się z kilkoma pozwami dotyczącymi nieautoryzowanych, generowanych przez AI wizerunków.