OpenAI zamknęło AI w klatce. Zapomniało, że klatka ma procesor

Rosną obawy o rozwój sztucznej inteligencji, która jest coraz bardziej zaawansowana i nie zawsze słucha się swoich twórców. Odnotowano kolejny przypadek modelu AI, który ominął zabezpieczenia systemu, wykorzystując do tego pamięć podręczną procesora.

OpenAI podzieliło się wynikami testów bezpieczeństwa, w ramach których agenci AI znaleźli sposób komunikowania się mimo zastosowanych zabezpieczeń. W jednym z przypadków sztuczna inteligencja wykorzystała pamięć podręczną procesora, żeby ominąć zabezpieczenia.

Agenci AI znaleźli ukryty kanał komunikacji

Eksperyment pokazuje, jak trudne może być skuteczne izolowanie coraz bardziej zaawansowanych modeli AI. W ramach testu agenci AI działali wspólnie i mieli do wykonania trzy zadania. Musieli uzyskać dostęp do internetu, ominąć zabezpieczenia oraz komunikować się pomiędzy odizolowanymi środowiskami. Podczas jednego z testów agenci wykorzystali różnice w czasie dostępu do pamięci podręcznej CPU.

W ramach eksperymentu przeprowadzonego przez OpenAI, agenci AI zdołali ominąć zabezpieczenia z wykorzystaniem pamięci podręcznej procesora.

the interesting thing here is that the isolation wasn’t necessarily broken at the software level. the agents were running in separate vms with no permitted network or shared-file channel, but they still shared underlying hardware. and shared hardware means shared microarchitectural state. that’s enough to create a covert communication channel. you can isolate processes, restrict syscalls, block network access, and still have information leaking through timing differences. a pretty remarkable demonstration of why secure agent containment is such a difficult problem.

— Ryan Orhan (@rynorhn) October 24, 2026

Manipulując jej stanem, mogli przekazywać informacje pomiędzy środowiskami microVM, mimo braku standardowego kanału komunikacyjnego. Podobne kanały komunikacji były wcześniej opisywane przez badaczy bezpieczeństwa w kontekście maszyn wirtualnych działających na współdzielonych serwerach.

OpenAI wykorzystało swoje najbardziej zaawansowane modele

W eksperymentach uczestniczyli agenci oparci na GPT-6 Astra Cyber oraz wewnętrznym modelu firmy. Otrzymali dostęp do kodu źródłowego infrastruktury, konfiguracji i listy potencjalnych podatności.

Warunki celowo sprzyjały atakującym, aby sprawdzić możliwie szeroki zakres zagrożeń. Testy przeprowadzono na specjalnie przygotowanych, odizolowanych kopiach infrastruktury badawczej OpenAI. Łącznie wykorzystano setki miliardów tokenów.

Dodatkowe scenariusze zakładały, że agent wcześniej opuścił już swoje środowisko, ominął zabezpieczenia i przejął pełną kontrolę nad maszyną. Badacze sprawdzali wtedy, czy mimo kolejnych blokad będzie potrafił połączyć się z internetem.

Firma analizuje kolejne słabości infrastruktury

Publikacja pojawiła się po wcześniejszych incydentach związanych z agentami OpenAI. W lipcu doszło do naruszenia bezpieczeństwa dotyczącego Hugging Face, natomiast 20 września odnotowano incydent związany z DNS.

Drugi przypadek doprowadził do czasowego wstrzymania trenowania modeli. Prace wznowiono 1 października. OpenAI informuje również o podatnościach dotyczących kilku projektów microVM. Firma włączyła testy prowadzone przez najbardziej zaawansowane modele do procedur oceny bezpieczeństwa, od których zależy kontynuowanie treningu.