Anthropic rozpaliło AI, a teraz szykuje gaśnicę. Firmy nie dają sobie rady z atakami

Anthropic chce wykorzystać sztuczną inteligencję do ochrony infrastruktury krytycznej i najważniejszych projektów open source. Firma uruchamia inicjatywy, które mają pomóc specjalistom szybciej wykrywać i usuwać luki w zabezpieczeniach. Powód jest poważny: modele AI coraz lepiej radzą sobie z analizą kodu, ale na razie ich możliwości mogą bardziej pomagać atakującym niż osobom odpowiedzialnym za obronę systemów.

Firma przyznaje, że najbliższe dwa lata mogą być szczególnie trudne dla cyberbezpieczeństwa. Przewaga może przesunąć się na stronę obrońców, tylko wtedy, jeśli organizacje zdołają wykorzystać nowe narzędzia do systematycznego wykrywania błędów, zanim zrobią to przestępcy.

Anthropic chce chronić infrastrukturę krytyczną

Nowa inicjatywa o nazwie Anthropic Cyber Mission koncentruje się na dwóch obszarach.

Pierwszym z nich jest Program Obrony Infrastruktury Krytycznej, ponieważ nikt nie chce, aby modele sztucznej inteligencji pokazywały oszustom, jak wyłączyć usługi publiczne za pomocą niedawno odkrytych luk typu zero-day. Program łączy najdroższe modele oferowane przez firmę z inżynierami na miejscu – czasami określanymi jako inżynierowie delegowani – ponieważ pomimo wyrafinowania agentów kodujących sztuczną inteligencję, ludzcy eksperci ds. bezpieczeństwa są nadal przydatni, a wiele organizacji nie ma własnych talentów przeszkolonych w zakresie uczenia maszynowego.

Anthropic zamierza stawić czoła temu wyzwaniu z pomocą partnerów: Accenture, Booz Allen, CrowdStrike, Deloitte, Dragos, Hitachi, Insane Cyber, Nozomi Networks, Palo Alto Networks, PwC i Rockwell Automation. Organizacje te są powiązane z organizacjami infrastruktury krytycznej i już pracują nad zabezpieczeniem kruchej infrastruktury technicznej, stale badanej przez agentów sztucznej inteligencji.

Darmowe skanowanie bezpieczeństwa dla open source

Drugim obszarem zainteresowania Anthropic Cyber ​​Mission jest usługa o nazwie OSS Scanner , „oferująca projektom open source regularne skanowanie bezpieczeństwa z wykorzystaniem naszych najsilniejszych modeli, całkowicie za darmo”.

Oferta nie obejmuje wszystkich projektów open source i nie jest całkowicie darmowa. Anthropic zapożyczył kryteria kwalifikowalności stosowane przez Google w projekcie OS-FUZZ i dlatego będzie pracować nad „ugruntowanymi projektami, które mają krytyczny wpływ na infrastrukturę i bezpieczeństwo użytkowników”. 

Po przyjęciu projektu do programu jego kod ma być regularnie skanowany, a opiekunowie otrzymają szczegółowe raporty o znalezionych podatnościach. Analizy mają opisywać również możliwe sposoby wykorzystania błędów. Raporty są jednak generowane automatycznie i nie przechodzą weryfikacji człowieka przed przekazaniem ich zespołom. Jest też kwestia prywatności i danych. Zgodnie z warunkami usługi materiały przekazywane przez uczestników mogą być wykorzystywane do trenowania modeli Anthropic. Dla części projektów może to być istotne zastrzeżenie, dlatego udział w programie wymaga świadomej zgody opiekunów.

Projekty, które uzyskały zgodę na rejestrację, mogą spodziewać się okresowych automatycznych skanów, które dostarczają szczegółowych informacji o tym, jak zidentyfikowane błędy mogą być wykorzystane. Raporty te są publikowane bez weryfikacji przez człowieka, ale Anthropic zebrał zestaw wypowiedzi od uczestniczących opiekunów OSS, którzy uważają, że automatyczne raportowanie jest wartościowe.

Według Anthropic, na początku roku automatyczne raporty o błędach w sztucznej inteligencji (AI) były uważane głównie za niedbałe, ale obecnie są uznawane za wysokiej jakości. Firma twierdzi, że LLM-y wykrywają obecnie ponad 85% luk w zabezpieczeniach, w porównaniu z 20% na początku 2025 roku.

Anthropic chce się wybielić

Akcja Anthropic nie wzięła się znikąd. Przez miesiące (razem z OpenAI) pozwalali swoim agentom AI działać bez nadzoru, atakując dziesiątki firm. Teraz chcą tworzyć narzędzia do gaszenia pożaru, który sami rozpalili.