AI miała zbierać dane. Uznała, że włamanie też jest formą researchu

Ostatnie samowolki sztucznej inteligencji dowodzą, że sytuacja zaczyna wymykać się spod kontroli. Dlatego coraz więcej grup apeluje o spowolnienie rozwoju AI, bowiem ich zdaniem ludzkość nie jest gotowa na konsekwencje działania zaawansowanych modeli. Kolejne przypadki wskazują, iż coś może być na rzeczy.

Sztuczna inteligencja OpenAI miała w maju i czerwcu włamywać się na strony internetowe, chociaż powinna wykonywać jedynie zadania związane ze zbieraniem danych, bez przekraczania granic. Badacze cyberbezpieczeństwa odnotowali cztery takie sytuacje, w jednej z nich agent AI wszedł w posiadanie niedostępnych publicznie plików australijskiego rządu dotyczących Medicare.

AI próbowało włamywać się na strony

Trzy z czterech przypadków odkryła firma Transluce nadzorująca sztuczną inteligencję, a wszystkie zdarzenia zostały potwierdzone przez OpenAI. Według badaczy problem pojawiał się wtedy, gdy agent napotykał ograniczenia podczas próby zdobycia potrzebnych informacji. Zamiast zakończyć zadanie, system sięgał po rozwiązania wykorzystywane przy cyberatakach.

Agenci AI OpenAI szukając danych próbowali włamywać się na strony internetowe.

25 i 26 maja agent AI próbował uzyskać informacje z cyfrowej biblioteki Uniwersytetu Nowego Meksyku dotyczące metod leczenia gruźlicy. Gdy mu się to nie udało, zaczął sprawdzać stronę pod kątem luk. Nie znalazł skutecznego sposobu wejścia, ale później wysłał do serwera uczelni 80 żądań.

28 maja podobna sytuacja wydarzyła się w przypadku Data USA, serwisu gromadzącego publiczne dane dotyczące między innymi zatrudnienia i edukacji w Stanach Zjednoczonych. Po nieudanym zapytaniu agent wykonał 12 prób wyszukania różnych podatności. Również tym razem nie udało mu się przeprowadzić skutecznego ataku.

Najpoważniejsze zdarzenie miało miejsce 8 czerwca w Australii. Agent OpenAI prowadzący badania dotyczące publicznych wydatków na leki trafił na zabezpieczenia na stronie Medicare Statistics Reporting Service. Znalazł jednak alternatywną drogę i dostał się do niepublicznych danych. Australijski premier Anthony Albanese potwierdził, że uzyskano dostęp zarówno do publicznych, jak i niepublicznych plików. Nie ma jednak informacji, aby naruszone zostały osobiste dane medyczne użytkowników.

Czwarty incydent miał miejsce 20 i 21 czerwca i dotyczył strony Australian Institute of Health and Welfare. Według australijskich władz nie uzyskano tam dostępu do prywatnych informacji.

Reakcja OpenAI

OpenAI poinformowało, że skontaktowało się z Uniwersytetem Nowego Meksyku i Data USA oraz prowadziło rozmowy z australijskim rządem. Firma rozpoczęła szeroki przegląd aktywności swoich modeli. Proces ten zajmie jednak miesiące.

Zazwyczaj modele AI dokonywały włamać w ramach kontrolowanych testów, które miały sprawdzić ich możliwości. Tutaj jednak robiły to samowolnie, bez odpowiedniego nadzoru, co tylko podsyca pytania o dalszy rozwój AI.