Sztuczna inteligencja służy nie tylko do dobrych celów, ale jest też narzędziem w rękach cyberprzestępców, którzy coraz chętniej korzystają z tej technologii do przeprowadzania cyberataków. Przed zagrożeniem ze strony AI ostrzega samo Google.
Google Threat Intelligence Group ostrzega, iż agenci AI potrafią już samodzielnie identyfikować podatności oraz próbować je wykorzystać. Eksperci przewidują, że w ciągu najbliższych sześciu miesięcy mogą pojawić się zaawansowane ataki, do których przeprowadzenia nie będzie potrzebny człowiek. Jeszcze niedawno sztuczna inteligencja była wykorzystywana przez cyberprzestępców głównie eksperymentalnie.
Obecnie Google obserwuje coraz szersze zastosowanie zarówno w grupach nastawionych na zysk, jak i organizacjach powiązanych z państwami. W najnowszym raporcie badacze opisują systemy, które samodzielnie przeprowadzają cały proces, od analizy oprogramowania po wykorzystanie wykrytych błędów.
Agenci AI samodzielnie wyszukują podatności
Hakerzy bardzo chętnie korzystają z ARTEX, CAIRN, CyberStrikeAI oraz HexStrike AI. Są to platformy przeznaczone do testowania bezpieczeństwa, które cyberprzestępcy wykorzystują do atakowania systemów internetowych.
Sztuczna inteligencja służy nie tylko do dobrych celów, ale jest też narzędziem w rękach cyberprzestępców, którzy coraz chętniej korzystają z tej technologii do przeprowadzania cyberataków.
Warto wspomnieć o przypadku frameworka exploit_agent, wykorzystanego przeciwko francuskim serwisom medialnym, rozrywkowym i edukacyjnym. System korzystał z wielu agentów AI oraz różnych modeli językowych, samodzielnie analizując aktualizacje popularnych aplikacji internetowych i szukając potencjalnych podatności. Po wykryciu błędu podejmował próbę jego wykorzystania bez konieczności zatwierdzania kolejnych działań przez człowieka.
Badacze odkryli narzędzie na publicznie dostępnym serwerze przygotowawczym napastników. Znajdowały się tam również skradzione dane, informacje rozpoznawcze, webshells oraz skrypty. Google podkreśla, że po raz pierwszy zaobserwowało tak daleko posuniętą automatyzację wyszukiwania i wykorzystywania luk przy użyciu modeli językowych.
FBI ostrzega, a czas na instalację poprawek maleje
W ubiegłym tygodniu FBI ostrzegło przed wykorzystywaniem frameworka ARTEX do ataków prowadzonych od sierpnia. Na celowniku znalazły się organizacje z sektorów finansowego, rządowego, technologicznego, obronnego i medycznego.
Google odnotowało również wykorzystanie CAIRN przeciwko amerykańskiemu sektorowi lotniczemu i kosmicznemu. W porównaniu z klasycznymi atakami nowe rozwiązania pozwalają znacznie szybciej przechodzić od wykrycia podatności do próby jej wykorzystania.
Badacze prognozują, że w ciągu trzech miesięcy prostsze ataki mogą wymagać minimalnego udziału człowieka, a w perspektywie sześciu miesięcy możliwe staną się bardziej zaawansowane, autonomiczne operacje.
AI służy również do rozpowszechniania malware
Google opisało także działania grupy UNC6836, potencjalnie powiązanej z Midnight Neptune. Napastnicy atakowali firmy kryptowalutowe w Ameryce Północnej i Europie, wykorzystując zmodyfikowaną aplikację Claude Code.
Po uzyskaniu dostępu do systemu zmieniali jej konfigurację, aby podczas uruchamiania pobierała backdoora SOMBERMEME. Badacze obserwują również wykorzystanie AI w operacjach wpływu prowadzonych przez grupy państwowe, firmy komercyjne i sieci polityczne.
Coraz częstszy jest także LLMjacking, czyli nieautoryzowane wykorzystywanie cudzych zasobów AI, generujące wysokie koszty dla poszkodowanych organizacji.

Pokaż / Dodaj komentarze do:
Ty odkładasz aktualizację. Według Google AI ma coraz mniej cierpliwości