USA oskarżają Chiny o kradzież wiedzy z modeli AI. ChatGPT, Claude i Gemini zaatakowane

CISA twierdzi, że duże chińskie firmy zajmujące się sztuczną inteligencją na dużą skalę wykradły wiedzę z amerykańskich modeli sztucznej inteligencji. Rzekoma kampania wykorzystywała destylację, metodę polegającą na szkoleniu mniejszych modeli AI na podstawie wyników większych modeli. Amerykańscy urzędnicy twierdzą, że działanie to pomogło w wyszkoleniu chińskich modeli, w tym DeepSeek R1 i Qwen V3.

Największe chińskie firmy zajmujące się sztuczną inteligencją rzekomo od lat kradną wiedzę zastrzeżoną amerykańskim firmom technologicznym w ramach tego, co amerykańska agencja ds. cyberbezpieczeństwa nazywa kampanią destylacji na szeroką skalę.

DeepSeek i Alibaba miały wykorzystywać modele z USA

Amerykańska Agencja ds. Bezpieczeństwa Cybernetycznego i Infrastruktury (CISA) opublikowała raport, w którym oskarżyła duże chińskie firmy zajmujące się sztuczną inteligencją o przejmowanie wiedzy z USA w celu udoskonalania krajowych modeli sztucznej inteligencji. Stany Zjednoczone twierdzą, że firmy takie jak DeepSeek, Moonshot AI, Alibaba, MiniMa, StepFun i Z.AI ukradły informacje z amerykańskich modeli Claude, ChatGPT, Gemini i Grok.

Tego typu działania rzekomo trwają co najmniej od 2024 r. Chiny kradną od Stanów Zjednoczonych możliwości wnioskowania, specjalistyczne optymalizacje i funkcje specyficzne dla danej dziedziny, aby szkolić swoje modele DeepSeek RI i Qwen V3.

Jest również prawdopodobne, że chiński rząd wiedział, że chińskie firmy zajmujące się sztuczną inteligencją pozyskiwały „miliardy tokenów” z amerykańskich modeli sztucznej inteligencji.

Czym jest destylacja?

Destylacja wiedzy to technika badawcza polegająca na trenowaniu mniejszego, bardziej wydajnego modelu na podstawie wyników większego, bardziej złożonego modelu. Stany Zjednoczone twierdzą, że firmy takie jak Alibaba, twórca Qwen, przekształciły destylację wiedzy w kampanię na skalę przemysłową, mającą na celu udoskonalenie rodziny modeli sztucznej inteligencji.

Zjawisko to określa się mianem „kampanii destylacyjnej”, w której „legalna i użyteczna” technika badawcza z zakresu sztucznej inteligencji zostaje przekształcona w „agresywny, złośliwy i ukierunkowany” atak na zastrzeżone informacje będące własnością Stanów Zjednoczonych.

Chiny rzekomo osiągnęły to poprzez kierowanie żądań dotyczących destylacji wieloma ścieżkami, aby uzyskać nieautoryzowany dostęp do modeli amerykańskich.

W istocie Chiny wykorzystywały podmioty pośredniczące i/lub ukrywały źródło tych żądań, aby na dużą skalę wydobywać informacje od amerykańskich firm.

Co więcej, firmy stojące za głównymi amerykańskimi modelami sztucznej inteligencji, takimi jak Claude, ChatGPT i Gemini, są przedsiębiorstwami zamkniętymi, co oznacza, że ​​obowiązują w nich różne zasady dotyczące postępowania z informacjami zastrzeżonymi.

ChatGPT, Claude, Gemini i Grok na celowniku

Rząd USA traktuje tę sytuację poważnie, o czym świadczy wspólny raport CISA, Narodowej Agencji Bezpieczeństwa (NSA) i FBI, w którym apeluje się do firm zajmujących się sztuczną inteligencją o czujne monitorowanie wniosków o destylację.

Aby utrzymać się na pozycji lidera w wyścigu sztucznej inteligencji, amerykańskie firmy powinny podjąć kroki mające na celu wykrywanie i łagodzenie ataków na destylację.

Rząd zaleca, aby firmy zajmujące się sztuczną inteligencją „subtelnie zmieniały swoją reakcję” na potencjalnie złośliwe próby destylacji i komunikowały się z innymi dostawcami sztucznej inteligencji w całych Stanach Zjednoczonych. Choć nie oznacza to koniecznie podawania potencjalnym atakującym całkowicie nieprawdziwych danych, może to oznaczać, że firmy zajmujące się sztuczną inteligencją zaczną upraszczać odpowiedzi na zapytania podejrzanych atakujących.