AI znajduje luki szybciej niż ludzie potrafią je załatać. Chiny patrzą i robią notatki

Jeszcze niedawno wykrycie poważnej luki typu zero-day wymagało tygodni pracy zespołów specjalistów od bezpieczeństwa. Dziś coraz częściej wystarczy zaawansowany model sztucznej inteligencji. To nie jest już futurystyczna wizja ani laboratoryjny eksperyment. Według najnowszych doniesień branżowych AI potrafi samodzielnie odnajdywać nieznane wcześniej podatności, tworzyć działające exploity i pomagać w przeprowadzaniu cyberataków w tempie, które jeszcze kilka lat temu wydawało się nierealne.

Sytuacja stała się na tyle poważna, że największe firmy rozwijające sztuczną inteligencję zaczęły współpracować ze sobą mimo ostrej konkurencji. Powód jest prosty: technologia, która może chronić internet, równie skutecznie może stać się narzędziem cyfrowej ofensywy.

Pierwszy taki przypadek już został potwierdzony

W maju analitycy Google Threat Intelligence potwierdzili pierwszy znany przypadek wykorzystania przez cyberprzestępcę modelu sztucznej inteligencji do odnalezienia i praktycznego wykorzystania luki zero-day. Według ujawnionych informacji system AI pomógł znaleźć metodę obejścia uwierzytelniania dwuskładnikowego, przygotować kod exploita i wykorzystać podatność jeszcze przed jej wykryciem przez specjalistów zajmujących się bezpieczeństwem.

To wydarzenie wywołało ogromne poruszenie w branży. Do tej pory obawiano się takiego scenariusza głównie w teorii. Teraz pojawił się pierwszy potwierdzony dowód pokazujący, że sztuczna inteligencja może realnie skracać czas potrzebny do przygotowania skutecznego ataku z tygodni do zaledwie kilku godzin.

AI odkrywa tysiące luk w oprogramowaniu

Jednocześnie ta sama technologia przynosi spektakularne efekty po stronie obrońców. Szczególną uwagę zwrócił projekt Glasswing rozwijany przez Anthropic. Firma wykorzystała eksperymentalny model Claude Mythos do automatycznego analizowania kodu i wyszukiwania nieznanych wcześniej podatności.

Rezultaty okazały się zaskakujące nawet dla ekspertów. System miał wykryć ponad 10 tysięcy luk o wysokim poziomie zagrożenia w popularnych systemach operacyjnych, przeglądarkach internetowych i innych kluczowych elementach infrastruktury cyfrowej. Część błędów pozostawała niezauważona przez wiele lat mimo wcześniejszych audytów prowadzonych przez ludzi.

Program został już rozszerzony na około 150 organizacji z kilkunastu krajów. Wśród uczestników znajdują się między innymi duże firmy technologiczne, instytucje zajmujące się cyberbezpieczeństwem oraz organizacje międzynarodowe.

Problem nie leży już w wykrywaniu błędów

Jeszcze kilka lat temu największym wyzwaniem było odnalezienie podatności. Dziś sytuacja zaczyna wyglądać zupełnie inaczej. Specjaliści coraz częściej zwracają uwagę, że sztuczna inteligencja wykrywa błędy szybciej, niż zespoły programistów są w stanie je naprawiać. Oznacza to, że liczba odkrywanych podatności może rosnąć znacznie szybciej niż tempo publikowania aktualizacji bezpieczeństwa. To dobra wiadomość dla obrońców tylko wtedy, gdy informacje o lukach pozostają w odpowiednich rękach. Jeżeli te same możliwości trafią do grup cyberprzestępczych lub państw prowadzących operacje wywiadowcze, sytuacja może wyglądać zupełnie inaczej.

USA oskarżają Chiny o kopiowanie możliwości amerykańskich modeli

W ostatnich miesiącach coraz więcej uwagi poświęca się zjawisku określanemu mianem destylacji modeli AI. Proces polega na zadawaniu zaawansowanemu modelowi ogromnej liczby precyzyjnie przygotowanych pytań, a następnie wykorzystywaniu odpowiedzi do trenowania własnego, tańszego systemu.

Według amerykańskich władz właśnie w ten sposób chińskie laboratoria próbują odtwarzać możliwości najpotężniejszych modeli rozwijanych w Stanach Zjednoczonych. Anthropic ujawnił dane wskazujące na miliony interakcji pochodzących z kont powiązanych z chińskimi podmiotami. Firma twierdzi, że wykryła szeroko zakrojone próby pozyskiwania wiedzy dotyczącej rozumowania modeli, programowania oraz zaawansowanych technik wykorzystywanych przez sztuczną inteligencję.

Skala tych działań sprawiła, że OpenAI, Anthropic i Google rozpoczęły wymianę informacji o zagrożeniach za pośrednictwem Frontier Model Forum. Jeszcze niedawno taka współpraca między bezpośrednimi konkurentami wydawała się mało prawdopodobna.

Waszyngton odpowiada, ale eksperci mają wątpliwości

Administracja USA próbuje reagować na rosnące zagrożenia związane z rozwojem sztucznej inteligencji. Na początku czerwca podpisano rozporządzenie wykonawcze przewidujące możliwość przekazywania najpotężniejszych modeli AI do rządowych testów cyberbezpieczeństwa przed ich publicznym udostępnieniem. Problem polega na tym, że udział firm pozostaje dobrowolny.

Co więcej, pierwotne propozycje zakładały znacznie dłuższy okres kontroli. Ostatecznie czas ten został skrócony do 30 dni. Rząd nie otrzymał także narzędzi pozwalających na blokowanie premier nowych modeli.

Wyścig przyspiesza z każdym miesiącem

Największy problem polega na tym, że nie istnieje dziś skuteczny sposób całkowitego ograniczenia takich możliwości. Modele AI stają się coraz lepsze w analizie kodu, wyszukiwaniu błędów i tworzeniu narzędzi wykorzystywanych przez specjalistów od bezpieczeństwa. Te same funkcje mogą jednak służyć do przygotowywania cyberataków na niespotykaną wcześniej skalę. Branża technologiczna znalazła się w sytuacji, w której każda kolejna poprawa możliwości modeli przynosi korzyści obrońcom i jednocześnie zwiększa potencjał napastników.