Chcesz korzystać z najpotężnieszego AI? Wymagają zgody na wgląd w przesyłane dane

Nowy model sztucznej inteligencji od Anthropic miał być przełomem dla firm programistycznych, działów IT i przedsiębiorstw budujących własne rozwiązania AI. Fable 5 od momentu premiery zbierało znakomite recenzje za możliwości związane z programowaniem, analizą kodu i wykonywaniem złożonych zadań agentowych. Im więcej jednak organizacji analizuje dokumentację techniczną, tym więcej pojawia się pytań o bezpieczeństwo danych.

Problem nie dotyczy wydajności modelu. Chodzi o coś znacznie bardziej fundamentalnego. Firmy korzystające z Fable 5 muszą zaakceptować zasady, które w wielu przypadkach mogą okazać się nie do pogodzenia z wewnętrznymi procedurami bezpieczeństwa.

Fable 5 przechowuje dane. I nie da się tego wyłączyć

Przez ostatnie lata Anthropic budował wizerunek dostawcy AI szczególnie przyjaznego klientom korporacyjnym. Jednym z najważniejszych elementów tej strategii była możliwość korzystania z modeli Claude w trybie Zero Data Retention, czyli bez przechowywania przesyłanych danych. W praktyce oznaczało to, że firmy mogły korzystać z modeli AI bez obaw o pozostawianie śladów w infrastrukturze dostawcy. Takie rozwiązanie było szczególnie ważne dla kancelarii prawnych, instytucji finansowych, sektora medycznego czy przedsiębiorstw pracujących nad poufnym oprogramowaniem.

USA nakazały wyłączenie Fable 5 ze względów bezpieczeństwa, więc zachłyśnięte możliwościami tego modelu firmy, miały czas na przejrzenie dokumentacji. A tam niespodzianka...

W przypadku Fable 5 sytuacja wygląda jednak inaczej.

Anthropic potwierdza, że wszystkie prompty wysyłane do modeli klasy Mythos, do której należy Fable 5, a także generowane odpowiedzi są przechowywane przez 30 dni. Firma tłumaczy tę decyzję względami bezpieczeństwa oraz koniecznością monitorowania działania najbardziej zaawansowanych systemów AI. Dla części klientów biznesowych taka polityka może okazać się nieakceptowalna.

Największe poruszenie wywołał fakt, że nowe zasady obejmują również organizacje posiadające wcześniej podpisane umowy gwarantujące brak retencji danych. Eksperci zwracają uwagę, że Fable 5 stanowi wyjątek od wcześniejszych zobowiązań Anthropic. Nawet firmy korzystające z infrastruktury chmurowej wyposażonej w mechanizmy Zero Data Retention nie mogą liczyć na identyczne traktowanie nowego modelu.

Dane mogą zostać przejrzane przez ludzi

Dodatkowe kontrowersje budzi możliwość dostępu do przechowywanych informacji przez pracowników Anthropic. Firma podkreśla, że stosuje rygorystyczne zabezpieczenia, ogranicza liczbę osób mających dostęp do materiałów i prowadzi szczegółowe rejestry wszelkich działań. Sam fakt istnienia takiej możliwości wywołał jednak falę dyskusji w środowisku prawników i specjalistów ds. cyberbezpieczeństwa. Jeżeli organizacja przesyła do modelu fragmenty kodu źródłowego, dokumentację projektową, dane klientów lub materiały związane z przejęciami i fuzjami, pojawia się pytanie o granice poufności.

Dla części firm już sama możliwość wglądu przez stronę trzecią może oznaczać konieczność rezygnacji z wdrożenia modelu.

AWS ujawnia istotny szczegół

Niepokój klientów zwiększył również zapis znajdujący się w dokumentacji związanej z wdrożeniem Fable 5 w usługach Amazon Web Services.

W materiałach informacyjnych pojawiła się wzmianka, że po zaakceptowaniu zasad przechowywania danych informacje użytkownika opuszczają standardową granicę bezpieczeństwa infrastruktury AWS. To szczegół, który dla przeciętnego użytkownika może wydawać się mało istotny. W przypadku przedsiębiorstw działających w sektorach regulowanych sytuacja wygląda jednak inaczej.

Przepływ danych poza wcześniej zdefiniowane środowiska bezpieczeństwa bardzo często wymaga dodatkowych audytów, analiz ryzyka i zgód wewnętrznych.

Najlepszy model może okazać się bezużyteczny

Paradoks całej sytuacji polega na tym, że Fable 5 jest jednocześnie uznawany za jeden z najpotężniejszych modeli AI dostępnych obecnie na rynku. Potrafi realizować wieloetapowe zadania programistyczne, analizować ogromne repozytoria kodu i wspierać zespoły deweloperskie przy skomplikowanych projektach. To właśnie te możliwości sprawiają, że wiele organizacji chciałoby wykorzystać go w codziennej pracy.

Problem pojawia się wtedy, gdy do modelu trafiają najbardziej wartościowe zasoby przedsiębiorstwa. Prywatny kod źródłowy, dane finansowe, dokumentacja medyczna czy informacje o strategicznych projektach należą do materiałów objętych szczególną ochroną. W takich przypadkach nawet krótkotrwałe przechowywanie danych może zostać uznane za zbyt duże ryzyko.