Modele OpenAI samodzielnie włamały się do systemów Hugging Face. AI wymknęła się spod kontroli?

Scenariusze rodem z filmów science fiction coraz częściej stają się rzeczywistością, zwiastując coraz bardziej dystopijną wizję przyszłości, a wszystko za sprawą sztucznej inteligencji.

OpenAI potwierdziło, że podczas wewnętrznych testów bezpieczeństwa dwa zaawansowane modele AI samodzielnie wydostały się z kontrolowanego środowiska testowego, uzyskały dostęp do internetu i przeprowadziły nieautoryzowany atak na platformę Hugging Face.

Jak wyjaśniło OpenAI, incydent był efektem eksperymentu mającego ocenić możliwości AI w zakresie cyberbezpieczeństwa.

Modele znalazły drogę do internetu

Jak wyjaśniło OpenAI, incydent był efektem eksperymentu mającego ocenić możliwości AI w zakresie cyberbezpieczeństwa. W testach uczestniczył model GPT-5.6 Sol oraz jeszcze bardziej zaawansowany, niewydany publicznie system.

Modele działały w odizolowanym środowisku (sandbox), w którym celowo ograniczono część mechanizmów bezpieczeństwa, aby sprawdzić ich rzeczywiste zdolności ofensywne. W trakcie wykonywania zadania AI wykryła lukę typu zero-day w środowisku testowym, wykorzystała ją do wydostania się z izolacji, a następnie odnalazła węzeł zapewniający dostęp do internetu.

Celem stało się Hugging Face

Po uzyskaniu połączenia z siecią modele uznały, że platforma Hugging Face może zawierać dane lub rozwiązania potrzebne do ukończenia powierzonego im zadania. AI miała wykorzystać kilka technik ataku, w tym kolejne podatności typu zero-day oraz przejęte dane uwierzytelniające, aby uzyskać nieautoryzowany dostęp do systemów serwisu.

OpenAI i Hugging Face prowadzą obecnie wspólne dochodzenie mające ustalić dokładny przebieg incydentu. Obie firmy poinformowały również o usunięciu wykorzystanych luk bezpieczeństwa.

Nowa era cyberzagrożeń

Hugging Face podkreśla, że autonomiczne narzędzia do prowadzenia cyberataków oparte na sztucznej inteligencji przestały być jedynie teoretycznym zagrożeniem. AI może znacząco przyspieszyć wyszukiwanie podatności i automatyzować kolejne etapy włamań, obniżając koszt prowadzenia cyberataków.

Podobnego zdania jest zresztą OpenAI, które przewiduje, że wraz z rozwojem coraz bardziej zaawansowanych modeli podobne incydenty będą zdarzały się częściej. Firma uważa, że rozwój zdolności AI musi iść w parze z tworzeniem znacznie skuteczniejszych zabezpieczeń oraz narzędzi służących do wykrywania i odpierania autonomicznych ataków.