OpenAI połączyło siły z Polakami. Efekt? Sześć groźnych luk w routerach

OpenAI i NASK, czyli Państwowy Instytut Badawczy nawiązały współpracę dotyczącą bezpieczeństwa sztucznej inteligencji. Obie organizacje będą razem badań rosnące zagrożenie wynikające z AI, wykrywać ich słabości oraz rozwijać skuteczniejsze zabezpieczenia.

Współpraca obejmie przede wszystkim Centrum Badań nad Bezpieczeństwem Sztucznej Inteligencji działające w NASK, które pełni funkcję polskiego instytutu bezpieczeństwa AI, czyli AISI. Badacze mają analizować możliwości zaawansowanych modeli, identyfikować potencjalne podatności oraz sprawdzać skuteczność stosowanych zabezpieczeń.

OpenAI i NASK będą wspólnie badać zagrożenia

Istotnym obszarem będą również zagrożenia wynikające z niewłaściwego wykorzystania sztucznej inteligencji, wykrywanie treści syntetycznych oraz problemy związane z funkcjonowaniem modeli w różnych językach.

OpenAI i NASK, czyli Państwowy Instytut Badawczy nawiązały współpracę dotyczącą bezpieczeństwa sztucznej inteligencji.

Radosław Nielek, dyrektor NASK, podkreślił, że bezpieczeństwa AI nie można zapewnić w pojedynkę. Jego zdaniem współpraca publicznych instytutów badawczych z producentami modeli pozwala skuteczniej przewidywać zagrożenia i budować zaufanie do technologii.

Tom Duff Gordon, wiceprezes OpenAI odpowiedzialny za politykę publiczną w regionie EMEA, zwrócił natomiast uwagę na kompetencje polskich naukowców, którzy odgrywają ważną rolę również w badaniach prowadzonych przez OpenAI.

Polska częścią międzynarodowych badań

OpenAI współpracuje już z amerykańskim CAISSI, brytyjskim AI Security Institute oraz innymi publicznymi instytucjami badawczymi. Dotychczasowe działania pomagały identyfikować i usuwać podatności w agentach AI oraz rozwijać metody oceny bezpieczeństwa zaawansowanych systemów.

Firma opowiada się także za wspólnymi międzynarodowymi standardami dotyczącymi testowania modeli, oceny ryzyka, skuteczności zabezpieczeń i zgłaszania incydentów.

Włączenie NASK do tych działań może pomóc dostosować globalne standardy do rzeczywistych zagrożeń występujących w Polsce, szczególnie w usługach publicznych i krajowej przestrzeni informacyjnej.

Współpraca już przyniosła konkretne rezultaty

W lipcu CERT Polska, działający w strukturach NASK, uzyskał poprzez program Daybreak dostęp do modeli OpenAI o zaawansowanych możliwościach w zakresie cyberbezpieczeństwa.

Z ich pomocą badacze wykryli sześć podatności w systemie MikroTik RouterOS. Niektóre błędy można było połączyć, aby przejąć kontrolę nad podatnymi urządzeniami bez konieczności uwierzytelniania. Producent udostępnił poprawki, a CERT Polska potwierdził, że zabezpieczenia uniemożliwiają przeprowadzenie zaobserwowanych wcześniej ataków.