Zamknięta AI odmówiła pomocy przy Linuksie. Badacza uratowały chińskie modele open source

Sztuczna inteligencja miała przyspieszyć wykrywanie błędów w oprogramowaniu i ułatwić życie programistom. Coraz częściej okazuje się jednak, że najbardziej zaawansowane komercyjne modele potrafią odmówić współpracy właśnie wtedy, gdy są najbardziej potrzebne.

Taką sytuację opisał badacz bezpieczeństwa Daniel Fox Franke, który podczas analizy tajemniczego błędu w Linuksie natrafił na ścianę stworzoną przez zabezpieczenia OpenAI. Ostatecznie problem pomogły mu analizować otwarte modele opracowane w Chinach.

AI odmówiła pomocy przy analizie błędu

Franke próbował ustalić źródło błędu segmentacji pojawiającego się w popularnym narzędziu ripgrep. Początkowo korzystał z GPT-5.6 Sol od OpenAI, licząc na wsparcie podczas analizy kodu oraz zależności prowadzących do awarii.

Zamiast odpowiedzi otrzymał kolejne blokady. Jak relacjonował, klasyfikator cyberbezpieczeństwa OpenAI wielokrotnie uznawał jego pytania za potencjalnie niebezpieczne i odmawiał wygenerowania odpowiedzi, mimo że badania dotyczyły legalnej analizy kodu źródłowego.

Badacz podkreśla, że nie próbował tworzyć exploita ani przygotowywać ataku. Chciał jedynie ustalić, dlaczego aplikacja ulega awarii oraz które elementy systemu odpowiadają za problem.

OpenAI odmówiło pomocy, więc badacz Linuksa znalazł rozwiązanie w chińskiej AI.

@OpenAI's cybersecurity classifier is a huge pain when you're trying to track down a segfault. Investigating https://t.co/3QLLfJEka7 leading to that report, Sol took multiple tries to tell me "run this build of rg in a loop with a constant search string" in various oblique ways…

— Daniel Franke (@dfranke) July 26, 2026

Problemem nie był model, lecz dodatkowe zabezpieczenia

Według Franke'a sam model GPT zachowywał się racjonalnie i rozumiał cel prowadzonej analizy. Blokady pochodziły z osobnego systemu klasyfikacji cyberbezpieczeństwa, który filtruje zapytania i odpowiedzi jeszcze przed ich przekazaniem użytkownikowi.

Badacz próbował zmieniać sposób formułowania poleceń. Wyraźnie zaznaczał, że analiza ma dotyczyć wyłącznie kodu źródłowego ripgrep i biblioteki musl, bez uruchamiania exploitów czy prób odtwarzania awarii. Nie przyniosło to oczekiwanego efektu.

Po kilku kolejnych odmowach uznał, że dalsza praca z zamkniętym modelem nie ma sensu.

Ratunek przyszedł z modeli open source

Franke postanowił wykorzystać dwa otwarte modele AI rozwijane przez chińskie firmy. Pierwszym był Kimi K3 od Moonshot AI, drugim GLM-5.2 od Z.ai.

Każdy odegrał inną rolę podczas śledztwa. Kimi K3 jako pierwszy zasugerował, że źródło problemu może znajdować się nie w samym ripgrepie, lecz w jądrze Linuksa. Później jednak model zaczął wyciągać błędne wnioski i tracił spójność wraz ze wzrostem liczby analizowanych informacji.

Dopiero GLM-5.2 ponownie przeanalizował cały materiał i uporządkował wcześniejsze ustalenia, pozwalając zbudować znacznie mocniejsze uzasadnienie dla hipotezy dotyczącej błędu jądra.

Błąd nadal nie został ostatecznie potwierdzony

Choć dochodzenie jest bardzo zaawansowane, Franke podkreśla, że sprawa nie została jeszcze zamknięta. Jest przekonany, że wykrył rzeczywisty błąd w jądrze Linuksa, jednak nadal musi potwierdzić, czy właśnie on odpowiada za obserwowane awarie.

Dopiero po zakończeniu dodatkowych testów planuje zgłosić problem społeczności rozwijającej jądro Linuksa. Na obecnym etapie nie ma informacji, aby wykryty błąd umożliwiał przeprowadzenie ataku lub stanowił poważną lukę bezpieczeństwa.

Rosnąca przewaga otwartych modeli?

Historia Franke'a ponownie wywołała dyskusję o przyszłości sztucznej inteligencji wykorzystywanej przez programistów i badaczy bezpieczeństwa. Zamknięte modele coraz częściej wyposażane są w rozbudowane systemy ograniczeń, które mają utrudniać wykorzystanie AI do cyberataków.

Problem polega na tym, że te same zabezpieczenia potrafią blokować również całkowicie legalne badania prowadzone przez ekspertów zajmujących się wykrywaniem błędów.

Franke przyznaje, że nie ma ideologicznego podejścia do oprogramowania open source. Twierdzi jednak, że produkty zamknięte znacznie częściej realizują interes producenta niż użytkownika. W jego ocenie otwarte modele zapewniają większą swobodę pracy i pozwalają szybciej rozwiązywać realne problemy techniczne.

Debata dopiero się rozpędza

Jednocześnie amerykańska branża technologiczna coraz głośniej dyskutuje o przyszłości modeli o otwartych wagach. Część firm uważa, że tylko takie rozwiązania pozwolą utrzymać tempo rozwoju badań nad bezpieczeństwem. Inni przekonują, że ograniczenia są konieczne, aby utrudnić cyberprzestępcom wykorzystanie najnowszych modeli AI.

Przykład z analizą błędu w Linuksie pokazuje jednak, że znalezienie równowagi staje się coraz trudniejsze. Gdy sztuczna inteligencja odmawia pomocy ekspertowi próbującemu naprawić oprogramowanie, przewagę zaczynają zdobywać narzędzia, które takich ograniczeń po prostu nie mają.