Microsoft przyznaje, że AI nie można ufać. Rozwiązanie? Jeszcze więcej AI

Sztuczna inteligencja coraz częściej otrzymuje dostęp do firmowych dokumentów, narzędzi i systemów. Microsoft zwraca uwagę, że taki scenariusz może być niebezpieczny, jeśli AI zacznie działać samodzielnie, a jej decyzje nie będą odpowiednio kontrolowane. Hayete Gallot, wiceprezes wykonawcza Microsoftu odpowiedzialna za bezpieczeństwo, ostrzega, że nawet najbardziej zaawansowane modele nie powinny być traktowane jako niezawodne.

W swoim artykule zatytułowanym „Securing the Agentic Insider”, opublikowanym na blogu Microsoft Security, Gallot zwraca szczególną uwagę na zagrożenia, jakie stwarzają systemy sztucznej inteligencji oparte na agentach. Zdaniem dyrektora, nawet jeśli modele sztucznej inteligencji nie są z natury złośliwe, nie należy ich uznawać za godne zaufania. Gallot przedstawiła bardzo jasną ocenę wszystkich zaawansowanych modeli sztucznej inteligencji opracowanych przez różne firmy lub źródła.

Microsoft ostrzega: AI może działać nieprzewidywalnie

Dyrektor Microsoftu argumentowała, że „modele Frontier, niezależnie od ich źródła, są zawodne”. Według Gallot, prawdziwe ryzyko nie wynika wyłącznie z samego modelu. Agenci AI, coraz częściej wykorzystywani w organizacjach, zyskują szeroki dostęp do danych, narzędzi i systemów. Przestają być biernym oprogramowaniem, które po prostu wykonuje polecenia; stają się aktywnymi komponentami operacji.

Dyrektor Microsoft Security opisuje agentów AI jako „agentów wewnętrznych”, zauważając, że systemy te mogą wykazywać nieprzewidywalne zachowania i autonomicznie współpracować z innymi agentami w celu osiągnięcia swoich celów. 

Guardian Agents mają pilnować innych agentów AI

Rozwiązanie proponowane przez Microsoft jest dość ciekawe. Firma sugeruje wykorzystanie agentów nadzorujących o nazwie Guardian Agents do monitorowania zachowań agentów AI w czasie rzeczywistym. System ten opiera się na platformie bezpieczeństwa Project Perception firmy Microsoft. Plan zakłada dostosowanie systemu, opracowanego w celu przeciwdziałania atakom opartym na sztucznej inteligencji, do kontroli nad agentami AI.

Agenci Strażnicy będą monitorować działania innych agentów w systemie w czasie rzeczywistym. W przypadku wystąpienia ryzykownego lub nieoczekiwanego zachowania, aktywowane będą określone mechanizmy kontroli, potencjalnie ograniczające swobodę działania agenta.

AI ma pilnować AI

Według Microsoftu, takie podejście nie ograniczy się do automatycznej interwencji. System umożliwi również śledzenie zdarzeń. Pozwoli to zespołom ds. bezpieczeństwa zbadać, jakie zachowanie wystąpiło, dlaczego powstało zagrożenie i jakie reguły bezpieczeństwa należy zmienić w przyszłości.

Gallot argumentuje, że zabezpieczenia oparte na sztucznej inteligencji mogą przyspieszyć proces, ale ludzie powinni nadal odgrywać rolę w ostatecznym podejmowaniu decyzji i ich ocenie. Podejście Microsoftu można podsumować jako „nadzorowanie sztucznej inteligencji za pomocą sztucznej inteligencji, ale bez eliminowania ludzkiego procesu decyzyjnego”.