Prosta sztuczka z hashtagiem pozwala zhakować przeglądarki z AI. Oto jak to działa

Badacze z Cato Networks odkryli nową metodę ataku na przeglądarki z asystentami AI, która wykorzystuje prostą sztuczkę z hashtagiem w adresie URL. Technika nazwana "HashJack" pozwala cyberprzestępcom manipulować asystentami AI bez wiedzy użytkownika.

Mechanizm ataku polega na umieszczeniu złośliwych instrukcji po znaku hashtagu w pozornie normalnym linku. Tekst ukryty za hashtagiem jest niewidoczny dla tradycyjnych narzędzi monitorujących, ponieważ fragment URL po hashtagu nie jest wysyłany do serwera - jest przetwarzany lokalnie przez asystenta AI. Użytkownik widzi normalną stronę, podczas gdy przeglądarka wykonuje polecenia, których nigdy nie wpisał.

Testy wykazały, że niektórzy asystenci AI podejmują autonomiczne działania po napotkaniu takich fragmentów, włączając w to przesyłanie danych do zewnętrznych lokalizacji kontrolowanych przez atakujących. Inne prezentują mylące wskazówki lub promują linki imitujące zaufane źródła, tworząc wrażenie normalnej sesji, ale zmieniając informacje przekazywane użytkownikowi.

Giganci technologiczni powiadomieni o luce HashJack

Największe firmy technologiczne zostały powiadomione o problemie, ale ich reakcje były zróżnicowane. Część dostawców wdrożyła aktualizacje do swoich funkcji AI, podczas gdy inne uznały zachowanie za oczekiwane zgodnie z istniejącą logiką projektowania.

Testy wykazały, że niektórzy asystenci AI podejmują autonomiczne działania po napotkaniu takich fragmentów

Problem polega na tym, że konwencjonalne narzędzia bezpieczeństwa zapewniają ograniczoną ochronę, ponieważ fragmenty URL nigdy nie opuszczają urządzenia. Tradycyjne środki monitorowania na poziomie sieci nie są w stanie przechwycić tych zagrożeń.

Metoda HashJack ilustruje lukę unikalną dla przeglądania wspomaganego AI, gdzie legalne strony internetowe mogą być wykorzystane jako broń bez pozostawiania konwencjonalnych śladów. Organizacje wdrażające narzędzia AI muszą zdawać sobie sprawę z tego ograniczenia i wdrożyć dodatkowe środki ochrony. To kolejny problem po przytłaczających halucynacjach na jakie "choruje" sztuczna inteligencja.