Google chce pozwać chińskich cybeprzestępców za nadużywanie Gemini AI. Powodzenia...

Sztuczna inteligencja miała pomagać programistom, firmom i zwykłym użytkownikom. Coraz częściej staje się jednak również narzędziem wykorzystywanym przez cyberprzestępców. Google właśnie rozpoczęło bezprecedensową ofensywę przeciwko grupie oszustów, którzy według firmy używali modelu Gemini do budowy infrastruktury phishingowej na ogromną skalę.

Pozew złożony przez amerykańskiego giganta wymierzony jest w Outsider Enterprise, sieć przestępczą działającą z Chin. Zdaniem Google grupa odpowiada za masowe kampanie wyłudzania danych, które mogły dotknąć setki tysięcy osób na całym świecie. Straty finansowe liczone są w milionach dolarów, a skala operacji robi ogromne wrażenie.

Gemini w rękach cyberprzestępców

Google twierdzi, że członkowie Outsider Enterprise wykorzystywali Gemini do tworzenia kodu stron phishingowych oraz elementów infrastruktury służącej do prowadzenia oszustw internetowych. To pierwszy przypadek, gdy firma zdecydowała się na pozew sądowy związany bezpośrednio z nadużywaniem jej generatywnej sztucznej inteligencji. Według dokumentów sądowych cyberprzestępcy mieli wykorzystywać narzędzia AI do przyspieszenia przygotowywania fałszywych witryn, automatyzowania procesów technicznych oraz rozwijania sieci służącej do wyłudzania danych logowania i informacji płatniczych.

Dla ekspertów ds. cyberbezpieczeństwa nie jest to zaskoczenie. Generatywna sztuczna inteligencja potrafi w kilka sekund wygenerować kod, przygotować profesjonalnie wyglądające treści i stworzyć elementy stron internetowych, które jeszcze kilka lat temu wymagały pracy programisty.

Milion fałszywych adresów i tysiące stron

Google szacuje, że działalność grupy była znacznie większa niż pojedyncze kampanie phishingowe. Firma powiązała Outsider Enterprise z ponad 9 tysiącami fałszywych stron internetowych oraz około milionem spreparowanych adresów URL wykorzystywanych do oszustw.

Ofiary otrzymywały wiadomości przypominające legalne powiadomienia od firm kurierskich, banków, operatorów telekomunikacyjnych czy serwisów technologicznych. Po kliknięciu w link użytkownik trafiał na stronę przygotowaną tak, aby wyglądała jak prawdziwy serwis. Tam przestępcy próbowali przejąć dane logowania, numery kart płatniczych lub inne informacje umożliwiające kradzież pieniędzy.

Według Google grupa nie ograniczała się do własnych działań. Outsider Enterprise miało również udostępniać swoją infrastrukturę innym cyberprzestępcom, stając się swego rodzaju dostawcą gotowych narzędzi phishingowych.

Telegram miał być centrum operacji

Śledczy wskazują, że sieć funkcjonowała głównie za pośrednictwem Telegrama. To właśnie tam miały być rozpowszechniane zestawy narzędzi wykorzystywane później przez oszustów na całym świecie.

Przygotowane pakiety pozwalały szybko uruchamiać fałszywe kampanie podszywające się pod znane marki i instytucje. Cyberprzestępcy mogli korzystać z gotowych szablonów, stron logowania oraz mechanizmów przechwytywania danych użytkowników. Takie rozwiązanie znacząco obniża próg wejścia dla osób chcących prowadzić działalność przestępczą w internecie. Zamiast budować własną infrastrukturę od podstaw, wystarczy skorzystać z gotowych narzędzi przygotowanych przez bardziej zaawansowane grupy.

Dziesiątki tysięcy zgłoszeń w zaledwie dwa tygodnie

Google ujawniło również skalę aktywności wykrytej w maju. W ciągu zaledwie dwóch tygodni użytkownicy Androida zgłosili około 55 tysięcy wiadomości spamowych powiązanych z działalnością tej sieci. Firma połączyła również 2,5 miliona wiadomości rozesłanych w tym samym czasie ze stronami internetowymi stworzonymi przy wykorzystaniu infrastruktury Outsider Enterprise.

FBI ostrzega przed nową falą oszustw

Amerykańskie służby również zwracają uwagę na rosnącą rolę sztucznej inteligencji w świecie cyberprzestępczości. Brett Leatherman, zastępca dyrektora wydziału cybernetycznego FBI, podkreślił, że oszuści coraz częściej sięgają po AI, aby tworzyć bardziej wiarygodne i trudniejsze do wykrycia kampanie.

Dzięki nowym narzędziom przestępcy mogą przygotowywać przekonujące wiadomości, perfekcyjnie imitować komunikację znanych marek i szybciej reagować na działania obrońców.

Eksperci ostrzegają, że kolejne generacje modeli AI mogą jeszcze bardziej zwiększyć skuteczność takich operacji. Granica między autentyczną komunikacją a spreparowaną wiadomością staje się coraz trudniejsza do zauważenia dla przeciętnego użytkownika.

Google przechodzi do kontrataku

Pozew przeciwko Outsider Enterprise jest tylko częścią działań prowadzonych przez Google. Firma współpracuje z FBI oraz największymi amerykańskimi operatorami telekomunikacyjnymi, aby blokować złośliwe wiadomości jeszcze przed ich dostarczeniem do odbiorców. Google poinformowało także, że jego systemy bezpieczeństwa przechwytują obecnie ponad 10 miliardów podejrzanych wiadomości miesięcznie.

Na początku czerwca koncern zaprezentował nowe funkcje wykrywania oszustw dla Androida wykorzystujące sztuczną inteligencję. Mechanizmy mają analizować połączenia telefoniczne oraz wiadomości tekstowe i ostrzegać użytkowników przed potencjalnymi próbami wyłudzenia danych.

Google chce wysłać jasny sygnał: firmy rozwijające modele AI nie zamierzają biernie przyglądać się wykorzystywaniu ich technologii przez cyberprzestępców. Pozostaje jednak pytanie, jak ich powstrzymać? Wyrok amrykańskiego sądu raczej niewiele obchodzić przestępców z Chin.