COVID-19 pokazał, co potrafi wirus. Teraz do gry wchodzą komputery

Firma Anthropic poinformowała, że zablokowała próby wykorzystania jej modeli sztucznej inteligencji do złośliwych działań, takich jak cyberataki, inwigilacja i badania, które mogłyby doprowadzić do powstania broni biologicznej.

W miarę jak modele sztucznej inteligencji stają się coraz potężniejsze, skomplikowane cyberataki nie wymagają już zaawansowanych umiejętności, a nawet pojedyncze osoby mogą stwarzać zagrożenia, które nie byłyby możliwe jeszcze rok temu, twierdzi Anthropic. Firma poinformowała, że ​​wprowadziła silniejsze zabezpieczenia w swoich najnowszych modelach, aby ograniczyć badania biologiczne, które mogłyby być również wykorzystywane do produkcji broni. 

W swoim wrześniowym raporcie dotyczącym zagrożeń firma Anthropic z San Francisco opisała pięć przypadków, w których naukowcy wykorzystali swoje modele Claude'a do badań, które potencjalnie mogłyby wesprzeć prace nad bronią biologiczną.

Claude był wykorzystywany do badań nad wirusami

Firma poinformowała, że ​​użytkownicy w regionach, w których Claude nie jest oficjalnie dostępny, omijali ograniczenia geograficzne, kierowali żądania przez infrastrukturę USA, a w niektórych przypadkach ukrywali cel swojej pracy. Anthropic zablokował konta powiązane z tą działalnością i poinformował, że w stosownych przypadkach udostępniał informacje organom rządowym, innym firmom z branży sztucznej inteligencji oraz partnerom branżowym.

W jednym przypadku zwrócono się o pomoc w przygotowaniu wniosku o grant na badania nad wirusem chikungunya. Proponowane prace dotyczyły mutacji wpływających na transmisyjność wirusa i jego zdolność do unikania odpowiedzi immunologicznej.

„Prace omówione we wniosku dotyczyły badań nad zyskiem funkcji (czyli badań, które genetycznie modyfikują organizm w celu uzyskania nowej lub ulepszonej właściwości biologicznej) wirusa chikungunya. Badania te miały na celu zbadanie zdolności wirusa do przenoszenia się i unikania odpowiedzi immunologicznej” – czytamy w raporcie.

Chikungunya to wirus przenoszony przez komary, który powoduje wyniszczające objawy, takie jak silny ból i gorączka. Wniosek dotyczył wniosku o grant na badania mające na celu udoskonalenie mutacji, aby uczynić wirusa coraz bardziej szkodliwym. Chociaż takie badania „z pewnością” mogłyby zostać wykorzystane do opracowania lepszych szczepionek i metod leczenia, firma Anthropic stwierdziła, że ​​„mogłyby one również zostać wykorzystane do uczynienia patogenu bardziej niebezpiecznym”.

Inny badacz korzystał z Claude'a przez kilka tygodni, badając, jak wysoce patogenna ptasia grypa może adaptować się do ssaków i wywoływać ciężką chorobę. Inne przypadki dotyczyły ortopokswirusów, w tym wirusów odpowiedzialnych za ospę prawdziwą i MPox, opracowywania i optymalizacji peptydów jadu oraz komputerowego przeprojektowywania toksyn na potrzeby krajowego programu badawczego.

Anthropic nie ujawnił danych naukowców, instytucji ani krajów zaangażowanych w badanie. Podkreślił również, że nie można stwierdzić, że naukowcy celowo mieli wyrządzić szkodę. Niektóre z prac mogłyby mieć uzasadnione zastosowania, w tym w opracowywaniu szczepionek, terapii i systemów wykrywania nowo powstających chorób.

Ta niepewność leży u podstaw wyzwań bezpieczeństwa. Badania biologiczne mają z natury podwójne zastosowanie: te same informacje, które pomagają naukowcom zrozumieć i zapobiegać chorobom, mogą również pomóc przeciwnikowi uczynić patogen lub toksynę bardziej niebezpiecznymi.

Podczas odrębnego przeglądu 30 dni aktywności instytucji w państwach wrogich, Anthropic zidentyfikował około 35 projektów badawczych. Większość z nich dotyczyła zwykłych badań naukowych prowadzonych w cywilu, choć niektóre miały znaczący potencjał podwójnego zastosowania.

„Mamy nadzieję, że ustalenia zawarte w tym raporcie pomogą innym twórcom oprogramowania rozpoznać podobne wzorce na ich własnych platformach, dadzą rządom i społeczeństwu obywatelskiemu jaśniejszy obraz tego, jak kształtują się nowe zagrożenia, a także wzmocnią zbiorowe mechanizmy obronne” – powiedział Anthropic. 

Firma Anthropic stwierdziła, że ​​przypadków tych nie należy interpretować jako dowodu na nieuchronność ataku biologicznego wspomaganego przez sztuczną inteligencję. Dowodzą one natomiast, że naukowcy powiązani z rządem starają się uzyskać dostęp do zaawansowanych modeli amerykańskich, a czasami podejmują celowe kroki w celu obejścia ograniczeń geograficznych i bezpieczeństwa.

Firma przyznała również, że automatyczne filtry bezpieczeństwa mają ograniczenia. System zaprojektowany do blokowania jednoznacznych instrukcji dotyczących produkcji znanej broni biologicznej może nie rozpoznawać zaawansowanych prac naukowych, których cel staje się oczywisty dopiero po uwzględnieniu tożsamości badaczy, instytucji i wzorców ich działań.

Anthropic stwierdził, że przyszłe środki ochrony prawdopodobnie będą wymagały połączenia filtrów technicznych, weryfikacji tożsamości i instytucji, monitorowania kont i programów zaufanego dostępu dla legalnie działających naukowców.

AI coraz częściej trafia do cyberataków

Firma Anthropic podała, że ​​podejrzewani o współpracę z państwem operatorzy, hakerzy na zleceniei inni cyberprzestępcy wykorzystywali Claude'a w cyberoperacjach, programach nadzoru, kampaniach wpływu, oszustwach i pracach nad bronią konwencjonalną.

W raporcie opisano również cyberoperacje wspierane przez sztuczną inteligencję, w których atakujący zautomatyzowali rozpoznanie, phishing, eksploatację i kradzież danych. Anthropic ocenił, że sztuczna inteligencja ogranicza wiedzę specjalistyczną i siłę roboczą, które wcześniej były niezbędne do przeprowadzania zaawansowanych ataków, umożliwiając mniejszym grupom i indywidualnym operatorom działanie na skalę, która wcześniej była kojarzona głównie z organizacjami dysponującymi dużymi zasobami.

Claude miał pomagać również przy pracach nad bronią

W jednym przypadku komórka z północnego Jemenu wykorzystała Claude'a do opracowania oprogramowania naprowadzającego, nawigacyjnego i sterującego dla rakiet i pocisków kierowanych. Firma Anthropic poinformowała, że ​​aktorzy przeprowadzili test rakiety kierowanej na żywo, chociaż firma nie znalazła dowodów na to, że z powodzeniem wykorzystali broń operacyjną.

AI pomaga też w kampaniach wpływu

Firma Anthropic odkryła również grupy, które utworzyły setki kont w mediach społecznościowych, które wyglądały na należące do zwykłych ludzi, a następnie w ciągu tygodnia publikowały materiały propagujące te same poglądy polityczne. Firma opisała dziewięć takich przypadków, pochodzących z Rosji, Iranu, Turcji oraz z Zatoki Perskiej, Azji Południowej, Afryki i Europy.

Chociaż firmy zajmujące się mediami społecznościowymi potrafią wykryć działania mające na celu wywieranie wpływu na swoich platformach już w momencie, gdy posty już krążą, „możemy to zobaczyć na Claude, gdy operacja ta będzie jeszcze w fazie przygotowawczej”.

Firma Anthropic opublikowała ten raport po tym, jak jeden z jej badaczy, Jacob Coxon, ogłosił swoją rezygnację z obawy, że firma i jej główny rywal OpenAI „pędzą prosto ku samodoskonalącej się superinteligencji i igrają z naszym życiem”. W swoim wpisie Coxon ostrzegał, że niektórzy z jego współpracowników uważają obecnie, że sztuczna inteligencja może zagrozić ludzkiemu życiu do końca dekady.Firma Anthropic twierdzi jednak, że zablokowała wszystkie zidentyfikowane szkodliwe działania, wykorzystała zdobyte doświadczenie do wzmocnienia zabezpieczeń i podzieliła się informacjami z organami rządowymi i partnerami branżowymi.