Algorytm się pomylił. Amerykanie byli gotowi do wojny

Błędny raport wygenerowany przez sztuczną inteligencję prawie zakończył się konfrontacją armii USA z Chinami. W fałszywym raporcie twierdzono, że chiński statek przewozi części związane z programem broni jądrowej.

Według śledztwa CNN opublikowanego 18 września 2026 roku, raport krążył w armii USA podczas wojny z Iranem. W wyniku błędnych informacji zainicjowa przygotowania do przechwycenia statku, a uzbrojony personel podobno był gotowy do wejścia na pokład, a samoloty wojskowe były już w powietrzu.

Chatbot pomylił się przy analizie ładunku

Urzędnicy odkryli problem dopiero na krótko przed planowaną operacją. Dokładniejsza analiza ujawniła, że ​​analityk użył chatbota opartego na sztucznej inteligencji do zinterpretowania informacji wywiadowczych na temat ładunku statku, a system błędnie zidentyfikował transportowane materiały. Jedno ze źródeł określiło raport jako „całkowicie fałszywy” i stwierdziło, że „prawie doprowadził do wybuchu wojny”.

Do incydentu doszło, gdy analityk dowództwa operacji specjalnych zwrócił się do chatbota z zapytaniem o dane wywiadowcze dotyczące manifestu statku. System sztucznej inteligencji połączył informacje ze źródeł otwartych z tajnymi danymi wywiadowczymi i doszedł do błędnych wniosków dotyczących ładunku.

Analityk ponownie wykorzystał sztuczną inteligencję, aby zebrać wyniki w formalnym raporcie wywiadowczym, który został rozesłany do przedstawicieli wojska. CNN nie udało się ustalić, czy chatbot był produktem komercyjnym, czy narzędziem opracowanym przez rząd.

Problem zaczyna się wtedy, gdy błąd trafia do świata rzeczywistego

W tym kontekście pojawia się fundamentalne pytanie: czy sztuczna inteligencja powinna być wykorzystywana w delikatnych procedurach wojskowych, gdzie pojedynczy błąd mógłby przerodzić się w konflikt? Sztuczna inteligencja potrafi szybko przetwarzać informacje, ale niedokładne wyniki, ograniczona przejrzystość i niejasna odpowiedzialność stwarzają poważne ryzyko. Eksperci ds. bezpieczeństwa z USA i Chin zaapelowali o wprowadzenie zabezpieczeń obejmujących systemy nuklearne, krytyczne operacje cybernetyczne i znaczący nadzór człowieka.

Dyskusje na Forum Xiangshan uwypukliły również obawy dotyczące eskalacji zautomatyzowanych reakcji wojskowych szybciej, niż ludzie są w stanie interweniować. Sztuczna inteligencja może wspierać analizy wojskowe, ale decyzje dotyczące siły, systemów nuklearnych lub potencjalnej konfrontacji wymagają rygorystycznej weryfikacji, transparentności i znaczącej kontroli ze strony człowieka.

USA coraz szerzej wykorzystują AI w wojsku

Wojsko amerykańskie dynamicznie rozszerza wykorzystanie sztucznej inteligencji (AI), m.in. do analizy wywiadowczej, wyboru celów, logistyki i podejmowania decyzji na polu bitwy. Przedstawiciele resortu obrony argumentują, że szybkie wdrożenie tej technologii jest niezbędne, aby utrzymać konkurencyjność w stosunku do potencjalnych przeciwników.

Jednak wojskowe systemy sztucznej inteligencji podobno działają w różnych departamentach, wykorzystując różne narzędzia i standardy bezpieczeństwa. Przedstawiciele władz poinformowali CNN, że nie ma jednego zestawu standardów regulujących weryfikację informacji generowanych przez sztuczną inteligencję. Nawet gdy człowiek pozostaje zaangażowany, szybkość i nieuzasadnione zaufanie mogą zwiększać ryzyko popełnienia błędów.

CNN poinformowała również o apelach o wszczęcie dochodzenia w sprawie wadliwego raportu, sugerując, że rozliczalność i zabezpieczenia mogą stać się centralnym punktem szerszej debaty na temat wojskowej sztucznej inteligencji.