Anthropic postawiło się rządowi USA. AI może zaatakować żołnierzy i cywilów

Firma Anthropic publicznie odmówiła spełnienia żądań Departamentu Obrony Stanów Zjednoczonych, który oczekuje zniesienia wybranych zabezpieczeń w modelach Claude przeznaczonych do zastosowań wojskowych. Spór może doprowadzić do zerwania kontraktów i otwartej konfrontacji z administracją w Waszyngtonie.

Departament Obrony USA chce uzyskać możliwość nieograniczonego wykorzystania systemu Claude w projektach militarnych. W grę wchodzi dostęp do modeli bez standardowych ograniczeń bezpieczeństwa. Według doniesień firmie zagrożono anulowaniem umów związanych z rozwojem AI dla Pentagonu oraz nałożeniem sankcji finansowych.

W czwartek stanowisko spółki przedstawił jej współzałożyciel i dyrektor generalny Dario Amodei. W oświadczeniu podkreślił, że Anthropic nie zamierza zmieniać swojej polityki w odpowiedzi na presję rządu.

Amodei zaznaczył, że firma nie sprzeciwiała się konkretnym operacjom wojskowym ani nie ingerowała w decyzje operacyjne. Jednocześnie wskazał, że istnieje wąska grupa zastosowań sztucznej inteligencji, które mogą podważać wartości demokratyczne zamiast je chronić.

Granice technologii i etyki

Według prezesa Anthropic dwa zapisy proponowanej umowy wykraczają poza bezpieczne możliwości obecnych systemów AI. Pierwszy dotyczy masowego nadzoru wewnętrznego. Amodei ostrzegł, że zaawansowane modele mogą dziś tworzyć szczegółowe profile życia pojedynczych osób w sposób zautomatyzowany i na szeroką skalę. W jego ocenie prawo nie nadąża za tempem rozwoju technologii.

Drugim punktem spornym jest wykorzystanie AI do zasilania w pełni autonomicznej broni. Szef Anthropic uznał, że obecne systemy nie osiągnęły poziomu niezawodności pozwalającego powierzyć im krytyczne decyzje bojowe bez bezpośredniego nadzoru człowieka. W oświadczeniu podkreślił, że firma nie dostarczy rozwiązania, które mogłoby narazić amerykańskich żołnierzy i cywilów na nieprzewidywalne ryzyko.

Anthropic zaproponował Pentagonowi współpracę badawczo-rozwojową w celu zwiększenia niezawodności i kontroli nad systemami. Według Amodei oferta nie została przyjęta.

Napięcie z administracją

Spór zyskuje wymiar polityczny. Sekretarz obrony Pete Hegseth miał wyznaczyć firmie termin na dostosowanie się do warunków Departamentu Obrony. Argumentował, że armia Stanów Zjednoczonych musi koncentrować się na skuteczności operacyjnej i przewadze technologicznej.

Amodei zwrócił uwagę na sprzeczność w komunikatach płynących z Waszyngtonu. Z jednej strony Anthropic określono jako potencjalne zagrożenie dla bezpieczeństwa narodowego z powodu odmowy spełnienia żądań. Z drugiej strony firma ma zostać zmuszona do osłabienia własnych zabezpieczeń w imię tego samego bezpieczeństwa narodowego.

Stanowisko spółki pozostaje niezmienne. Anthropic deklaruje gotowość do dalszej współpracy z Pentagonem, jednak bez demontażu mechanizmów ochronnych w modelach Claude.