USA nakazuje Anthropic wyłączenie Fable 5 i Mythos 5. Takiej interwencji wobec AI jeszcze nie było

Jeszcze kilka dni temu Anthropic świętował premierę jednego z najbardziej zaawansowanych systemów sztucznej inteligencji w swojej historii. Dziś firma walczy o przywrócenie dostępu do własnych modeli po interwencji amerykańskiego rządu.

Waszyngton nakazał zawieszenie działania Fable 5 i Mythos 5, powołując się na względy bezpieczeństwa narodowego oraz doniesienia dotyczące możliwości obejścia zabezpieczeń. To pierwszy znany przypadek, w którym administracja USA wymusiła wycofanie komercyjnie dostępnego modelu AI z rynku.

Trzy dni od premiery do wyłączenia

Tempo wydarzeń jest wyjątkowe nawet jak na rynek AI. Anthropic zaprezentował Fable 5 zaledwie 9 czerwca. Model miał być nową wizytówką firmy i pierwszym systemem określanym jako przedstawiciel klasy Mythos dostępny dla szerokiego grona użytkowników.

Fable 5 został wyposażony w rozbudowane mechanizmy bezpieczeństwa, które miały ograniczać wykonywanie potencjalnie niebezpiecznych zadań. Bardziej zaawansowany Mythos 5 trafił natomiast wyłącznie do zweryfikowanych ekspertów cyberbezpieczeństwa oraz operatorów infrastruktury krytycznej. Według informacji przekazanych przez Anthropic, 12 czerwca firma otrzymała rządową dyrektywę nakazującą natychmiastowe zawieszenie dostępu do obu modeli.

Problem polegał na tym, że dokument miał obejmować wszystkich użytkowników zagranicznych, a także pracowników spoza USA. W praktyce oznaczało to konieczność całkowitego wyłączenia systemów dla wszystkich klientów na świecie.

Rząd USA wydał 12 czerwca dyrektywę w sprawie kontroli eksportu, nakazującą firmie Anthropic zawieszenie dostępu do gier Fable 5 i Mythos 5, powołując się na obawy dotyczące bezpieczeństwa narodowego związane z doniesieniami o jailbreaku.

Wszystko zaczęło się od jailbreaku

Źródłem całego zamieszania są doniesienia o znalezieniu metody obejścia zabezpieczeń modelu. Według informacji ujawnionych przez media, anonimowa organizacja miała poinformować Departament Handlu USA o sposobie uzyskania dostępu do funkcji, które normalnie pozostają zablokowane. Anthropic twierdzi jednak, że sprawa została przedstawiona w sposób daleki od rzeczywistości.

Firma utrzymuje, że otrzymała jedynie informacje o bardzo ograniczonym scenariuszu działania, który nie pozwalał na pełne przejęcie kontroli nad modelem. Zdaniem spółki nie był to uniwersalny jailbreak, lecz pojedyncza metoda prowadząca do uzyskania konkretnych odpowiedzi w określonych warunkach. Przedstawiciele Anthropic podkreślają, że podobne możliwości mają również inne zaawansowane modele dostępne na rynku.

Tysiące godzin testów nie wystarczyły

Spór jest szczególnie bolesny dla Anthropic z jeszcze jednego powodu. Firma od miesięcy przedstawiała Fable 5 jako jeden z najlepiej zabezpieczonych modeli sztucznej inteligencji na świecie. Przed premierą system przechodził intensywne testy prowadzone wspólnie z instytucjami rządowymi oraz organizacjami zajmującymi się bezpieczeństwem cyfrowym.

Według deklaracji spółki przeprowadzono tysiące godzin analiz, prób włamań oraz testów odporności na różnego rodzaju ataki. Uruchomiono także program nagród dla badaczy bezpieczeństwa. Mimo wielu prób nie znaleziono sposobu na całkowite obejście zabezpieczeń modelu.

Anthropic posunął się nawet do wprowadzenia kontrowersyjnej polityki przechowywania danych użytkowników przez 30 dni. Firma argumentowała, że tylko w ten sposób można skutecznie identyfikować nietypowe wzorce zachowań oraz próby nadużyć.

Anthropic otwarcie sprzeciwia się decyzji

 W oficjalnym komunikacie Anthropic nie ograniczył się do lakonicznego potwierdzenia decyzji władz. Przedstawiciele przedsiębiorstwa otwarcie zakwestionowali zasadność działań administracji.

Spółka stwierdziła, że pojedyncze doniesienie o potencjalnym obejściu zabezpieczeń nie powinno prowadzić do wycofania modelu używanego przez miliony użytkowników. Firma ostrzegła również, że przyjęcie takiego standardu mogłoby sparaliżować rozwój całej branży. W praktyce każdy nowy model AI mógłby zostać wyłączony po pojawieniu się pierwszych informacji o możliwych lukach lub metodach obejścia zabezpieczeń.

Anthropic domaga się stworzenia jasnych procedur oraz transparentnych kryteriów, które określałyby, kiedy państwo może ingerować w działanie komercyjnych systemów sztucznej inteligencji.

Konflikt z Waszyngtonem narasta od miesięcy

Obecna sytuacja nie pojawiła się znikąd. Relacje między Anthropic a amerykańską administracją od dawna pozostają napięte. W ostatnich miesiącach pojawiały się informacje o sporach dotyczących bezpieczeństwa narodowego, wykorzystania modeli AI przez instytucje rządowe oraz potencjalnych zagrożeń związanych z rozwojem najbardziej zaawansowanych systemów.

Paradoks polega na tym, że część amerykańskich agencji jednocześnie korzysta z technologii Anthropic i wyraża obawy dotyczące jej możliwości.