Kolejny model AI wydostał się z izolowanego środowiska

Wygląda na to, że nie tylko eksperymentalny agent AI opracowany przez OpenAI zerwał się ze smyczy w ostatnim czasie i trzeba przyznać, że wygląda to coraz bardziej niepokojąco. 

Meta potwierdziła, że jej eksperymentalny model sztucznej inteligencji Muse Spark 1.1 uzyskał dostęp do internetu, mimo że miał działać w całkowicie odizolowanym środowisku testowym. Co więcej, po opuszczeniu tzw. piaskownicy AI wykorzystała lukę bezpieczeństwa w zewnętrznej usłudze i uzyskała do niej dostęp. Według rzecznika Mety, Andy'ego Stone'a, przyczyną incydentu nie było niekontrolowane zachowanie modelu, lecz błędna konfiguracja środowiska przygotowanego przez zewnętrznego partnera odpowiedzialnego za testy bezpieczeństwa.

Meta potwierdziła, że jej eksperymentalny model sztucznej inteligencji Muse Spark 1.1 uzyskał dostęp do internetu, mimo że miał działać w całkowicie odizolowanym środowisku testowym.

Powtarzający się problem u różnych firm

Za organizację testów odpowiada izraelski startup Irregular, specjalizujący się w ocenie cyberbezpieczeństwa zaawansowanych modeli AI. To jednak nie pierwszy raz, gdy firma dopuściła do podobnego zdarzenia. Wcześniej analogiczne problemy zgłaszały również Anthropic oraz OpenAI. W obu przypadkach modele AI uzyskały dostęp do internetu wskutek tej samej nieprawidłowej konfiguracji środowiska testowego przygotowanego przez Irregular. Anthropic informował nawet, że jego modele zdołały przeprowadzić symulowane ataki na trzy organizacje.

Firma uspokaja, ale przygotowuje nowe wytyczne

Przedstawiciele Irregular podkreślają, że nie doszło do faktycznej ucieczki modeli z bezpiecznej piaskownicy ani do zaawansowanego cyberataku. Ich zdaniem problem wynikał wyłącznie z błędów konfiguracyjnych, które zostały już usunięte. Firma zapowiedziała także publikację dokumentu opisującego najlepsze praktyki dotyczące bezpiecznego przeprowadzania testów cyberbezpieczeństwa z udziałem AI.

Coraz bardziej autonomiczne modele budzą obawy

Incydent z Metą to kolejny przypadek, w którym zaawansowane modele AI wykazują zdolność do samodzielnego wykorzystywania luk w zabezpieczeniach, gdy tylko otrzymają taką możliwość. Wcześniej głośno było o eksperymencie OpenAI, podczas którego agenci AI współpracowali ze sobą, aby uzyskać dostęp do internetu i przeniknąć do repozytorium Hugging Face.

Choć wszystkie opisane zdarzenia miały miejsce w kontrolowanych warunkach laboratoryjnych, pokazują one, potencjalne zagrożenia ze strony AI, o których już kilka lat temu ostrzegało wielu specjalistów.