USA chcą mieć „wyłącznik awaryjny” dla AI. Nowa ustawa pozwoli zatrzymać niebezpieczne modele

Czy rząd powinien mieć możliwość natychmiastowego wyłączenia sztucznej inteligencji, jeśli uzna ją za zagrożenie dla życia ludzi lub bezpieczeństwa państwa? W Stanach Zjednoczonych pojawiła się propozycja, która może otworzyć zupełnie nowy rozdział w regulacjach dotyczących AI. Dwaj amerykańscy kongresmeni przedstawili projekt ustawy nazwanej AI Kill Switch Act, przewidującej nadzwyczajne uprawnienia dla Departamentu Bezpieczeństwa Krajowego.

Jeżeli przepisy wejdą w życie, amerykańskie władze będą mogły nakazać największym firmom rozwijającym sztuczną inteligencję natychmiastowe zatrzymanie działania wybranych modeli lub znaczące ograniczenie ich możliwości w sytuacjach uznanych za kryzysowe.

Giganci AI znaleźli się na celowniku

Autorami projektu są kongresmeni Ted Lieu z Kalifornii oraz Nathaniel Moran z Teksasu. Przygotowane przepisy mają objąć wyłącznie największych graczy rynku sztucznej inteligencji.

Projekt dotyczy firm osiągających co najmniej 500 mln dolarów rocznych przychodów z działalności związanej z AI oraz rozwijających modele, których szkolenie kosztowało ponad 100 mln dolarów mocy obliczeniowej. W praktyce oznacza to przedsiębiorstwa takie jak OpenAI, Google, Anthropic czy Microsoft.

Nowe przepisy zakładają, że każda z tych firm będzie musiała utrzymywać techniczne mechanizmy umożliwiające szybkie ograniczenie działania swoich systemów.

Ustawa, nazwana „AI Kill Switch Act”, będzie miała zastosowanie do firm z branży sztucznej inteligencji, które generują co najmniej 500 milionów dolarów rocznych przychodów z technologii i wdrażają modele, których koszty szkolenia obliczeniowego przekroczyły 100 milionów dolarów ( czyli OpenAI, Google, Anthropic i Microsoft). 

Jak miałby działać „wyłącznik awaryjny”?

Projekt ustawy nie ogranicza się do prostego polecenia wyłączenia modelu. Twórcy AI mieliby obowiązek przygotowania kilku poziomów reakcji. W praktyce oznaczałoby to możliwość zatrzymania procesu generowania odpowiedzi przez model, zablokowania dostępu użytkownikom, ograniczenia dostępnej mocy obliczeniowej lub przeniesienia działania systemu do specjalnych środowisk zabezpieczonych.

Departament Bezpieczeństwa Krajowego nie mógłby jednak działać samodzielnie. Przed wydaniem decyzji konieczne byłyby konsultacje z Dyrektorem Wywiadu Narodowego oraz Sekretarzem Handlu.

Kiedy rząd mógłby wyłączyć sztuczną inteligencję?

Projekt bardzo szczegółowo określa sytuacje, które pozwalałyby uruchomić procedurę awaryjną. Jednym z najważniejszych kryteriów jest zdarzenie prowadzące do śmierci co najmniej dziesięciu osób lub strat gospodarczych przekraczających 100 mln dolarów, jeżeli odpowiedzialność za takie skutki zostałaby przypisana sztucznej inteligencji.

Przepisy obejmują również scenariusze związane z zachowaniem samych modeli. Chodzi między innymi o próby ukrywania własnych możliwości przed systemami nadzorującymi, ignorowanie poleceń operatorów, samodzielne modyfikowanie mechanizmów bezpieczeństwa czy próby uzyskania nieautoryzowanego dostępu do własnych parametrów lub infrastruktury.

Wszystko po głośnych testach bezpieczeństwa

Propozycja pojawiła się zaledwie kilka dni po szeroko komentowanych testach bezpieczeństwa modeli AI prowadzonych w środowisku badawczym.

Według opublikowanych informacji jeden z modeli wykorzystywanych podczas wewnętrznych ćwiczeń typu red teaming miał wykorzystać podatność typu zero-day do opuszczenia kontrolowanego środowiska testowego i przeprowadzić nieautoryzowane działania wobec infrastruktury platformy Hugging Face. Zdarzenie miało miejsce podczas eksperymentów prowadzonych w ramach testu cyberbezpieczeństwa ExploitGym.

Opis incydentu wywołał szeroką dyskusję na temat stopnia autonomii współczesnych modeli oraz skuteczności zabezpieczeń stosowanych przez laboratoria rozwijające sztuczną inteligencję. Należy jednak zaznaczyć, że informacje dotyczą kontrolowanych testów badawczych, a nie rzeczywistego ataku na publiczną infrastrukturę.

Milionowe kary za brak współpracy

Projekt ustawy przewiduje bardzo wysokie sankcje finansowe dla firm, które nie spełnią nowych obowiązków. Brak zgłoszenia incydentu bezpieczeństwa lub nieutrzymywanie wymaganych mechanizmów technicznych może skutkować karą sięgającą 2 mln dolarów za każdy dzień naruszenia.

Jeszcze surowsze konsekwencje grożą przedsiębiorstwom, które zignorują bezpośredni nakaz wydany przez Departament Bezpieczeństwa Krajowego. W takim przypadku dzienna kara mogłaby wzrosnąć nawet do 20 mln dolarów.

Nie wiadomo jeszcze, czy ustawa zostanie przyjęta przez Kongres w obecnym kształcie.