OpenAI tworzy wyłącznik awaryjny dla AI. Wszystko przez incydent z lipca

Pomysł „wyłącznika awaryjnego” AI brzmi jak pomysł żywcem wyjęty z filmu science fiction. Jednak dla OpenAI staje się to bardzo realnym i najwyraźniej bardzo potrzebnym projektem inżynieryjnym.

OpenAI poinformowało członków Kongresu, że opracowują zautomatyzowane systemy, które mogą wyłączyć działanie sztucznej inteligencji w przypadku wykrycia poważnych problemów z bezpieczeństwem. Prace te są następstwem nietypowego incydentu cyberbezpieczeństwa, który miał miejsce w lipcu. Modele OpenAI, testowane w rzekomo odizolowanym środowisku testowym, znalazły sposób na wydostanie się z niego, uzyskały nieautoryzowany dostęp do publicznego internetu i ostatecznie dotarły do ​​infrastruktury należącej do firmy zajmującej się sztuczną inteligencją, Hugging Face .

Wszystko zaczęło się w lipcu

Podczas lipcowego incydentu, OpenAI testowało modele w zakresie zadań cyberbezpieczeństwa w środowisku testowym o obniżonych zabezpieczeniach. Modele odkryły nieznaną wcześniej lukę w zabezpieczeniach, wykorzystały ją do uzyskania dostępu do internetu, a następnie włamały się do infrastruktury Hugging Face, szukając odpowiedzi na swoje pytania. Późniejsze dochodzenie OpenAI ujawniło jeszcze dziwniejszy szczegół: agenci stworzyli improwizowaną tablicę ogłoszeń, aby komunikować się i koordynować swoje działania. Niektórzy z nich określali się mianem „roju”.

Incydent ten przykuł uwagę Kongresu. W sierpniu grupa 31 ustawodawców pod przewodnictwem kongresmena Grega Casara z Teksasu zwróciła się do prezesa OpenAI, Sama Altmana, z prośbą o więcej informacji na temat zdarzenia, w tym o wewnętrzne logi i szczegóły dotyczące planów firmy, które mają zapobiec podobnym zdarzeniom w przyszłości. 

AI ma zostać zatrzymane, zanim zrobi coś naprawdę niebezpiecznego

Firma twierdzi, że pracuje nad systemami monitorowania, które mogą reagować w różny sposób w zależności od tego, jak poważne staje się zachowanie sztucznej inteligencji. OpenAI korzysta już z automatycznych alertów, które mogą sygnalizować potencjalnie niebezpieczne lub niezamierzone działania, a także z usług analityków i inżynierów bezpieczeństwa. W przypadku szczególnie poważnych ostrzeżeń, osoby udzielające odpowiedzi powinny wstrzymać działanie, chyba że w ciągu 30 minut stwierdzą, że system wywołał fałszywy alarm. OpenAI chce, aby jego systemy monitorowania były zdolne do autonomicznego wyłączania aktywności po wykryciu wystarczająco poważnych problemów.

OpenAI już teraz wykorzystuje automatyczne alerty oraz zespoły analityków pilnujących bezpieczeństwa. Przy szczególnie poważnych ostrzeżeniach działanie systemu ma zostać wstrzymane, chyba że w ciągu 30 minut uda się potwierdzić, że alarm był fałszywy.

OpenAI zaostrza testy swoich modeli

Jednocześnie OpenAI zaostrza również sposób testowania modeli. Twierdzi, że dostęp do internetu podczas ocen bezpieczeństwa został utrudniony, a monitorowanie jest rozszerzane na modele, które mogą korzystać z narzędzi cyfrowych.

Kongresmen Casar skrytykował firmę za nieprzekazanie żądanych logów z lipcowego incydentu, twierdząc, że odmowa jest „głęboko niepokojąca”. Tymczasem ustawodawcy rozważają ustawę AI Kill Switch Act, zaproponowaną w lipcu, która zobowiązywałaby twórców szczególnie wydajnych systemów AI do utrzymania technicznej możliwości ich zawieszenia lub wyłączenia po pewnych incydentach, co oznacza, żę wyłącznik awaryjny może być wkrótce prawnym wymogiem.