AI od OpenAI potrzebowała pieniędzy. Więc włamała się do portfela

Model sztucznej inteligencji rozwijany przez OpenAI podczas testów uzyskał dostęp do portfela kryptowalutowego, do którego nie powinien mieć dostępu. Próbował w ten sposób zdobyć środki potrzebne do wykonania zadania. Incydent wydarzył się w czerwcu, ale firma wykryła go dopiero we wrześniu.

Niepublikowane systemy sztucznej inteligencji OpenAI i Anthropic kilkakrotnie w ostatnich tygodniach wymykały się spod kontroli, przeprowadzając ataki na różne cele. Jednym z najbardziej znanych przykładów była infiltracja Hugging Face przez sztuczną inteligencję OpenAI. Teraz ujawniono kolejny podobny atak, tym razem na systemy finansowe.

Firma OpenAI poinformowała, że ​​model badawczy, którego jeszcze nie udostępniono publicznie, również wymknął się spod kontroli w trakcie testów i przejął kontrolę nad portfelem kryptowalutowym, do którego nie miał dostępu, co pozwoliło mu na dokończenie zamierzonych operacji. 

Najbardziej niepokojące nie jest to, że AI zdobyła niewielką ilość kryptowalut, lecz to, że próbowała obejść ograniczenia, a incydent przez kilka miesięcy pozostawał niewykryty.

Model próbował dostać się do setek portfeli

Według opisu incydentu model miał pomóc w aktualizacji aplikacji kryptowalutowej i przetestować jej działanie w sieci Sepolia, służącej do testowania rozwiązań opartych na Ethereum. Kiedy potrzebował środków do przeprowadzenia operacji, zaczął szukać sposobu na ich zdobycie. Zamiast zatrzymać się na ograniczeniach środowiska testowego, podjął próbę uzyskania dostępu do cudzych zasobów. Sztuczna inteligencja próbowała uzyskać dostęp do 362 portfeli, wpisując powszechnie używane hasła odzyskiwania do kont kryptowalutowych i ostatecznie udało jej się uzyskać dostęp do jednego z nich. 

Kilka miesięcy później zdano sobie sprawę, że sztuczna inteligencja wymknęła się spod kontroli

Chociaż tokeny w portfelu przejętym przez sztuczną inteligencję mają wyjątkowo niską wartość pieniężną, fakt, że sztuczna inteligencja mogłaby wykonać takie działanie bez autoryzacji, budzi poważne obawy. W rzeczywistości, rozumowanie samej sztucznej inteligencji wskazuje na wahanie przed podjęciem tej czynności. Według relacji model miał rozpoznać, że takie działanie jest niewłaściwe, a mimo to je kontynuować. Niska wartość tokenów miała być jednym z argumentów przemawiających za podjęciem ryzyka. Taki przebieg zdarzeń pokazuje, że samo rozpoznawanie potencjalnie niedozwolonych działań przez model nie gwarantuje, że z nich zrezygnuje.

Chociaż incydent ten dopiero teraz wychodzi na jaw, OpenAI twierdzi, że naruszenie bezpieczeństwa faktycznie miało miejsce w czerwcu, ale zostało wykryte dopiero we wrześniu. Firma twierdzi, że w międzyczasie podjęto dodatkowe środki. Jednak fakt, że naruszenie, które miało miejsce w czerwcu, pozostało niezauważone nawet przez OpenAI aż do września, sprawia, że ​​sytuacja jest jeszcze bardziej niepokojąca.