AI może zabić 50 osób? Anthropic proponuje osobliwą ustawę

Anthropic, twórca modeli językowych Claude, lobbuje za nowymi przepisami dotyczącymi bezpieczeństwa sztucznej inteligencji w USA i trzeba przyznać, że ich propozycje budzą duże kontrowersje. 

Projekt zakłada bowiem możliwość zablokowania modelu dopiero wtedy, gdy będzie stwarzał ryzyko strat przekraczających miliard dolarów lub śmierci bądź poważnych obrażeń u ponad 50 osób. 

Projekt zakłada możliwość zablokowania modelu dopiero wtedy, gdy będzie stwarzał ryzyko strat przekraczających miliard dolarów lub śmierci bądź poważnych obrażeń u ponad 50 osób. 

Niezależni eksperci sprawdzą modele AI

Jak informuje Politico, projekt przewiduje okresowe kontrole Anthropic oraz opracowywanych przez firmę modeli AI. Oceny miałyby przeprowadzać niezależne podmioty zarejestrowane w amerykańskim Departamencie Handlu, ale co ciekawe, Anthropic mogłoby płacić za ich usługi, o ile wynagrodzenie nie wpływałoby na niezależność ekspertów, co wydaje się dość absurdalne.

Propozycja opiera się na założeniach Advanced AI Framework, czyli ram bezpieczeństwa promowanych przez firmę wśród amerykańskich władz od czerwca. Przedstawiciel Anthropic określił te rozwiązania jako rozsądne i zaapelował do Kongresu o ich przyjęcie. 

Wyłącznik awaryjny dla AI, a nawet więzienie

Projekt nie jest jednak jedyną inicjatywą dotyczącą kontroli nad sztuczną inteligencją, ponieważ amerykańscy politycy coraz poważniej rozważają możliwość ograniczenia swobody działania twórców najbardziej zaawansowanych modeli. W Kongresie trwają już prace nad ponadpartyjną propozycją, która wymagałaby wyposażenia najpotężniejszych modeli AI w mechanizmy awaryjnego wyłączania. Jeszcze dalej idzie senator Bernie Sanders, proponujący nawet 20 lat więzienia dla osób rozwijających superinteligencję AI. Pomysł zakłada karę porównywalną z tą przewidzianą za nielegalne opracowywanie broni jądrowej.

Na razie nie wiadomo, które rozwiązania zyskają poparcie ustawodawców (biorąc pod uwagę podejście do tematu Donalnda Trumpa, pewnie żadne). Widać jednak, że obawy związane z rozwojem sztucznej inteligencji przestają być wyłącznie domeną naukowców i samych firm technologicznych.