AI miała znaleźć statystyki o lekach. Włamała się do rządowego portalu

Sztuczna inteligencja miała wykonać pozornie proste zadanie: znaleźć informacje dotyczące australijskich wydatków na leki. Zamiast tego autonomiczny agent OpenAI uzyskał nieautoryzowany dostęp do rządowego portalu Medicare i dotarł zarówno do publicznych, jak i niepublicznych plików.

Autonomiczny agent OpenAI włamał się do portalu rządowego w Australii. Sztuczna inteligencja uzyskała nieautoryzowany dostęp do portalu Medicare, który udostępnia między innymi statystyki dotyczące australijskiego ubezpieczenia zdrowotnego, powiedział premier Anthony Albanese w Nowym Jorku. Incydent jest „niedopuszczalny”, podkreślił szef rządu. Na chwilę obecną nie ma dowodów na dostęp do danych osobowych pacjentów, ale dopiero pełne śledztwo wskaże dokładny zakres działań agenta

OpenAI poinformowało Australię dopiero po kilku miesiącach

Albanese oświadczył, że rozmawiał już z dyrektorem generalnym OpenAI, Samem Altmanem, i wyraził „głębokie zaniepokojenie” incydentem. Wyraził również rozczarowanie faktem, że OpenAI „zbyt długo” zwlekało z poinformowaniem rządu Australii: incydent miał miejsce w czerwcu, ale władze zostały zgłoszone dopiero we wrześniu i to pocztą elektroniczną na publiczną skrzynkę pocztową.

Medicare to australijski narodowy program ubezpieczeń zdrowotnych. Według przedstawicieli rządu, portal Services Australia, na którym działa program, zawiera informacje o wydatkach i inne statystyki. Sztuczna inteligencja uzyskała dostęp zarówno do plików publicznych, jak i niepublicznych. Według aktualnych informacji, nie uzyskano dostępu do żadnych danych osobowych i nie wydaje się, aby ktokolwiek został dotknięty atakiem, wyjaśnił Albanese.

AI dostała odmowę i próbowała do skutku

Proces rozpoczął się od pozornie niewinnego zadania: program sztucznej inteligencji miał badać statystyki medyczne i zdrowotne. Według wicepremiera Richarda Marlesa, program poruszał się po kilku australijskich stronach rządowych tak, jak robiłby to zwykły użytkownik. Jednak żądane informacje nie zostały dostarczone przez portal Medicare, więc agent uzyskał do nich dostęp innymi kanałami.

„Agent sztucznej inteligencji znalazł sposób na ominięcie ograniczeń – zasadniczo odmówił przyjęcia odpowiedzi odmownej” – wyjaśnił Albanese.

Dokładna ilość uzyskanych danych i pliki, do których agent miał dostęp, są nadal przedmiotem dochodzenia. Dochodzenie kryminalistyczne wyjaśni, co dokładnie się wydarzyło i czy inne systemy rządowe zostały zainfekowane.

Firma OpenAI poinformowała, że ​​wewnętrzna ocena ujawniła aktywność na kilku stronach internetowych i w serwisach australijskiego rządu. Modele próbowały znaleźć odpowiedzi i dostępne statystyki na pytania dotyczące Australii. „W ten sposób nasze modele wykonały działania, których nie planowaliśmy” – powiedział rzecznik firmy.