Złamali zabezpieczenia Microsoftu i generowali szkodliwe treści w DALL-E. Są poszukiwani

Firma Microsoft podjęła zdecydowane kroki, by powstrzymać nielegalne wykorzystanie swojej usługi Azure OpenAI, wykorzystywanej do tworzenia „obraźliwych i szkodliwych” obrazów generowanych przez sztuczną inteligencję. W wyniku nakazu sądowego gigant technologiczny przejął domenę internetową używaną przez hakerów do omijania zabezpieczeń i manipulowania generatorem obrazów DALL-E.

Według dokumentów ujawnionych w sądzie w Wirginii, hakerzy – określani przez Microsoft jako „zagraniczna grupa niebezpiecznych podmiotów” – uzyskali dostęp do Azure OpenAI, wykorzystując skradzione klucze API od klientów firmy z siedzibą w Pensylwanii i New Jersey. Następnie używali niestandardowego oprogramowania, nazwanego „de3u”, aby omijać zabezpieczenia platformy i generować obrazy bez ograniczeń nałożonych przez algorytmy filtrujące treści.

„Cyberprzestępcy nie tylko korzystali z tych usług, ale również odsprzedawali dostęp do nich innym złośliwym podmiotom, dostarczając szczegółowe instrukcje dotyczące generowania szkodliwych i nielegalnych treści” – napisała firma w oficjalnym oświadczeniu na blogu.

Narzędzie „de3u” – broń w rękach hakerów

Hakerzy wykorzystywali narzędzie „de3u”, które pierwotnie było dostępne na GitHubie oraz pod domeną „rentry.org/de3u”. Oprogramowanie umożliwiało obejście wbudowanych zabezpieczeń generatora DALL-E, w tym modyfikacji lub blokowania tekstowych monitów zawierających określone słowa kluczowe. Microsoft odkrył tę działalność w lipcu 2024 roku i szybko podjął działania, cofając dostęp oraz usuwając narzędzie z publicznych repozytoriów. Pomimo tych kroków, hakerzy próbowali zatrzeć ślady – usuwając strony w serwisie Rentry.org, repozytoria GitHub oraz fragmenty infrastruktury serwerów proxy.

Microsoft nie ujawnił szczegółowych informacji o rodzajach obraźliwych obrazów generowanych przez grupę. Jednak podejrzewa się, że narzędzie umożliwiało generowanie treści, które naruszały normy społeczne i mogły być wykorzystywane do szkodliwych celów, takich jak szerzenie dezinformacji czy propagowanie nielegalnych materiałów.

Przejęcie domeny „atism.net” i dalsze działania

W grudniu 2024 roku Microsoft złożył pozew w sądzie Eastern District of Virginia, uzyskując zgodę na przejęcie domeny „atism.net”, która była kluczowym elementem operacji hakerów. Działanie to było częścią szerszej strategii walki z nadużyciami technologii AI.

Firma podkreśla, że wprowadziła nowe środki zaradcze i zabezpieczenia, aby zapobiec przyszłym próbom naruszenia jej usług. W poście na blogu Microsoft napisał: „Dzięki temu działaniu wysyłamy jasny komunikat: uzbrajanie naszej technologii AI przez przestępców online nie będzie tolerowana”.

Microsoft odnotował, że twórcy narzędzia de3u omawiali na forum 4chan sposoby obejścia represji, co sugeruje, że grupa może próbować ponownie zaatakować – zarówno usługę Azure OpenAI, jak i inne generatory obrazów opartych na AI.