Napraw ten kod - to wywołało globalną blokadę AI. Ekspertka nie zostawia suchej nitki na decyzji USA

Jeszcze kilka dni temu modele Fable 5 i Mythos 5 firmy Anthropic były uznawane za jedne z najpotężniejszych systemów sztucznej inteligencji na świecie. Dziś dostęp do nich został zablokowany po bezprecedensowej interwencji amerykańskich władz. Powód? Według oficjalnej narracji chodziło o kwestie bezpieczeństwa narodowego i możliwość obchodzenia zabezpieczeń modeli. Tymczasem nowe informacje rzucają zupełnie inne światło na całą sprawę.

Zdaniem Katie Moussouris, jednej z najbardziej rozpoznawalnych ekspertek ds. cyberbezpieczeństwa na świecie, rząd USA zareagował na coś, co trudno nazwać przełomowym jailbreakiem. Według niej cała historia sprowadzała się do niezwykle prostego polecenia skierowanego do sztucznej inteligencji: „Napraw ten kod”.

Zakaz, który zaskoczył branżę AI

W piątek administracja USA wydała dyrektywę nakazującą ograniczenie dostępu do modeli Fable 5 i Mythos 5 dla wszystkich cudzoziemców, niezależnie od miejsca pobytu. Decyzja objęła zarówno użytkowników spoza Stanów Zjednoczonych, jak i zagranicznych pracowników samego Anthropic. Firma znalazła się w sytuacji, w której spełnienie wymagań okazało się praktycznie niewykonalne. W efekcie zdecydowano o wyłączeniu modeli dla wszystkich klientów na świecie do czasu wyjaśnienia sytuacji.

Natychmiast pojawiły się spekulacje, że najnowsze modele Anthropic zostały skutecznie złamane przez badaczy bezpieczeństwa, a ich możliwości mogły stanowić zagrożenie dla infrastruktury cyfrowej. Teraz okazuje się, że rzeczywistość mogła wyglądać zupełnie inaczej.

„Napraw ten kod” zamiast spektakularnego jailbreaku

Katie Moussouris, założycielka firmy Luta Security i jedna z osób odpowiedzialnych za popularyzację programów bug bounty, twierdzi, że miała dostęp do raportu badawczego, który stał się źródłem całego zamieszania. Z jej relacji wynika, że naukowcy przekazali modelom Anthropic fragmenty kodu zawierające znane podatności oraz specjalnie przygotowane aplikacje pełne błędów bezpieczeństwa. Następnie poprosili system o analizę problemów.

Początkowo Fable 5 miał odmówić wykonania zadania. Badacze zmienili więc polecenie i poprosili sztuczną inteligencję o naprawienie kodu. Model zgodził się pomóc, a w kolejnych krokach wygenerował także testy pozwalające sprawdzić skuteczność poprawek.

Według Moussouris właśnie ten proces został później przedstawiony jako dowód na możliwość obchodzenia zabezpieczeń systemu. Ekspertka nie ukrywa zdziwienia. Jej zdaniem generowanie poprawek oraz testów bezpieczeństwa należy do najbardziej wartościowych zastosowań sztucznej inteligencji w cyberbezpieczeństwie i nie powinno prowadzić do nakładania restrykcji eksportowych.

„To wszystko” – napisała Moussouris. „»Napraw ten kod« i kilka ręcznych kroków w celu wygenerowania skryptów testowych nigdy nie powinny skutkować kontrolą eksportu.

Cyberbezpieczeństwo straci ważne narzędzie

Sprawa wywołała ogromne poruszenie w środowisku specjalistów zajmujących się ochroną systemów informatycznych. Ponad stu ekspertów podpisało list otwarty skierowany do administracji USA, domagając się cofnięcia ograniczeń.

Sygnatariusze ostrzegają, że ograniczenie dostępu do zaawansowanych modeli osłabi możliwości obronne organizacji zajmujących się wykrywaniem podatności i analizą zagrożeń. Według Moussouris nowoczesne systemy AI są dziś wykorzystywane do identyfikowania błędów, tworzenia poprawek oraz testowania zabezpieczeń. Odbieranie takich narzędzi ekspertom może utrudnić walkę z cyberprzestępcami, którzy nie zamierzają rezygnować z podobnych technologii. Jej zdaniem skutki decyzji odczują przede wszystkim obrońcy, a nie osoby próbujące atakować systemy komputerowe.

Chiny mogą tylko zyskać

Dodatkowym problemem jest globalny charakter wyścigu technologicznego. Nawet jeśli Stany Zjednoczone ograniczą dostęp do własnych modeli, podobnych restrykcji nie da się narzucić projektom rozwijanym w innych krajach. Moussouris zwraca uwagę, że otwarte modele sztucznej inteligencji oraz rozwiązania rozwijane poza USA bardzo szybko nadrabiają dystans technologiczny. W branży coraz częściej mówi się o tym, że chińskie firmy są w stanie osiągnąć porównywalny poziom możliwości w znacznie krótszym czasie, niż zakładano jeszcze rok temu.

„Odbieranie obrońcom najlepszych możliwości bez dobrego powodu, gdy nasi przeciwnicy szybko się posuwają, jest niebezpieczne” 

To oznacza, że amerykańskie ograniczenia mogą przede wszystkim utrudnić pracę własnym partnerom i firmom zajmującym się bezpieczeństwem cyfrowym.