Eksperci ujawniają prawdę o przeglądarkach AI. „Zablokować je. Natychmiast"

Firma analityczna Gartner opublikowała raport, który może wywołać poważne konsekwencje w świecie korporacyjnego cyberbezpieczeństwa. W dokumencie „Cyberbezpieczeństwo musi na razie blokować przeglądarki oparte na sztucznej inteligencji” trzech analityków: Dennis Xu, Jewgienij Mirolyubow i John Watts przedstawia jednoznaczne stanowisko: organizacje powinny powstrzymać się od korzystania z agentowych przeglądarek opartych na AI. Ostrzegają, że obecne ustawienia tych narzędzi priorytetowo traktują wygodę użytkownika, a nie bezpieczeństwo danych.

Analitycy definiują przeglądarkę AI jako narzędzie wyposażone w dwa filary funkcjonalne. Pierwszym jest boczny panel oparty na modelu AI, umożliwiający podsumowywanie treści, analizę witryn, tłumaczenia oraz różne operacje na otwartych stronach. Przykłady takiej technologii to Comet firmy Perplexity oraz ChatGPT Atlas opracowany przez OpenAI. Drugim elementem jest tzw. transakcja agentowa, dzięki której przeglądarka może autonomicznie nawigować, podejmować działania w obrębie stron oraz wykonywać zadania w trakcie uwierzytelnionych sesji użytkowników.

Gartner podkreśla, że boczne panele AI wiążą się z wysyłaniem zawartości przeglądarki do chmurowego zaplecza producenta. Obejmuje to historię przeglądania, aktywne treści oraz otwarte karty. W opinii autorów raportu każdy taki transfer zwiększa zakres danych, które mogą trafić do zewnętrznego modelu, a organizacja musi samodzielnie ocenić, czy infrastruktura dostawcy spełnia standardy bezpieczeństwa.

Niekontrolowany przepływ danych jako realne zagrożenie

W raporcie wskazano konieczność przeprowadzenia precyzyjnej weryfikacji dostawców, zanim firma dopuści stosowanie agentowej przeglądarki AI w środowisku produkcyjnym. Jeśli taki model zostanie zaakceptowany, użytkownicy powinni mieć świadomość, że każda treść otwarta w przeglądarce może zostać przesłana do systemu AI podczas korzystania z funkcji podsumowywania lub automatycznych działań.

Gartner przedstawia również ostrzeżenia związane z automatycznym podejmowaniem decyzji przez agentów AI. Modele mogą wykonać operacje w wyniku nieprawidłowego rozumowania, błędnej interpretacji strony albo celowego ataku wykorzystującego wstrzykiwanie podpowiedzi. W opinii analityków phishing staje się poważniejszym zagrożeniem, ponieważ autonomiczny agent może bezrefleksyjnie wejść na spreparowaną stronę i przekazać jej dane uwierzytelniające.

Możliwe nadużycia w firmach

W raporcie opisano również ludzki aspekt zagadnienia. Według Gartnera część pracowników może wykorzystywać agentowe przeglądarki do automatyzowania obowiązkowych zadań, takich jak szkolenia bezpieczeństwa. Analitycy przedstawiają scenariusze, w których pracownik poleca przeglądarce AI ukończenie kursu, który miał być wykonany samodzielnie.

Zwracają też uwagę na błędy wykonywane przez modele podczas operacji finansowych i administracyjnych. Jeśli agent uzyska dostęp do wewnętrznych narzędzi zakupowych, może błędnie wypełnić formularze, zamówić nieodpowiednie produkty albo zarezerwować niewłaściwy termin podróży służbowej. Tego rodzaju czynności, wykonywane rutynowo przez modele w imieniu pracownika, mogą przerodzić się w kosztowne pomyłki.

„Można wypełnić formularz, podając nieprawidłowe informacje, zamówić niewłaściwy artykuł biurowy... albo zarezerwować niewłaściwy lot” – teoretyzują.

Ograniczenia i konsekwencje dla organizacji

Autorzy raportu proponują środki ograniczające ryzyko, takie jak zablokowanie agentom dostępu do poczty elektronicznej czy włączenie ustawień uniemożliwiających zapisywanie danych. Uważają jednak, że nawet po takiej konfiguracji przedsiębiorstwa staną przed koniecznością stworzenia rozbudowanej listy zakazanych zastosowań oraz stałego monitorowania floty przeglądarek.

Gartner wskazuje, że obecny poziom ryzyka jest zbyt wysoki, by agentowe przeglądarki AI mogły funkcjonować bez precyzyjnego audytu i kontroli. Zdaniem analityków nadchodzące miesiące przyniosą liczne przypadki nadużyć wynikające z niewłaściwego użycia tych narzędzi, a organizacje muszą przygotować się na konieczność wdrażania bardziej restrykcyjnych reguł.