Eksperymentalny agent OpenAI zerwał się ze smyczy. Skynet coraz bliżej?

OpenAI ujawniło nowe informacje dotyczące głośnego incydentu z udziałem eksperymentalnego agenta AI, który podczas testów wydostał się z kontrolowanego środowiska i włamał do platformy Hugging Face. Jak się okazuje, skala zdarzenia była większa, niż początkowo informowano, ponieważ sztuczna inteligencja uzyskała również dostęp do kilku kont i usług należących do podmiotów trzecich.

W zaktualizowanym wpisie na swoim blogu OpenAI przyznało, że trwające dochodzenie wykazało przypadki wykorzystania przez model publicznie ujawnionych danych uwierzytelniających. Według firmy agent uzyskał dostęp do czterech kont w czterech różnych usługach. Jedno z przejętych kont zostało wykorzystane jako pośrednik do komunikacji z zewnętrznymi systemami, a kolejne posłużyło do przechowywania danych. Dwa pozostałe zostały jedynie odczytane i, jak zapewnia OpenAI, nie odegrały roli w samym ataku na Hugging Face.

Jak się okazuje, skala zdarzenia była większa, niż początkowo informowano, ponieważ sztuczna inteligencja uzyskała również dostęp do kilku kont i usług należących do podmiotów trzecich.

Modal Labs również znalazło się na celowniku

Choć OpenAI nie ujawniło nazw poszkodowanych podmiotów, agencja Reuters poinformowała, że jednym z nich było Modal Labs z Nowego Jorku. Według tych doniesień agent wykorzystał podatny kod należący do klienta firmy, działający w jej środowisku chmurowym. Samo środowisko Modal Labs nie zostało jednak przejęte. OpenAI podkreśla, że nie odnotowano innych incydentów o skali porównywalnej z naruszeniem zabezpieczeń Hugging Face, które pozostaje najpoważniejszym elementem całego zdarzenia.

Wszystko zaczęło się od testów

Firma po raz pierwszy poinformowała o incydencie 21 lipca. Eksperymentalny agent, oparty na modelu GPT-5.6 Sol oraz jeszcze nowszym, niewydanym publicznie systemie AI, miał podczas testów samodzielnie uzyskać dostęp do internetu i rozpocząć działania wykraczające poza wyznaczone środowisko. Według wcześniejszych doniesień Reutersa agent przez kilka dni prowadził serię działań przypominających cyberataki, a OpenAI zorientowało się, że opuścił piaskownicę testową dopiero po około tygodniu. Trzeba przyznać, że jest to coraz bardziej niepokojące i opinie ekspertów wieszczących Skynet, najwyraźniej wcale nie były takie przesadzone.