Policja w Indiach chce dowodów osobistych dla sztucznej inteligencji

W indyjskim Hajderabadzie szef lokalnej policji zaproponował wprowadzenie obowiązkowych identyfikatorów dla agentów sterowanych sztuczną inteligencją, którzy działają w infrastrukturze publicznej i prywatnej.

Miasto liczy ponad 11 milionów mieszkańców i jest jednym z najważniejszych ośrodków technologicznych kraju. Właśnie tam testuje się oraz wdraża wiele rozwiązań automatyzujących procesy w bankowości, ochronie zdrowia i energetyce.

„Wkraczają w krytyczne sektory”

Komisarz VC Sajjanar opublikował obszerny wpis w serwisie X, w którym zwrócił uwagę na tempo ekspansji cyfrowych agentów. Podkreślił ich obecność w obszarach o fundamentalnym znaczeniu dla funkcjonowania państwa i codziennego życia obywateli. Według niego systemy działające samodzielnie budzą rosnący niepokój. W opinii komisarza pojawia się ryzyko utraty realnej kontroli nad operacjami realizowanymi bez udziału człowieka. Wraz ze wzrostem autonomii rośnie też skala potencjalnych konsekwencji błędów.

Jeżeli podobne rozwiązania zaczęłyby obowiązywać szerzej, producenci oprogramowania musieliby projektować swoje narzędzia z myślą o pełnej identyfikowalności operacji. Dla wielu firm oznaczałoby to konieczność przebudowy architektury usług.

Strach przed przejęciem

Sajjanar wskazuje na jeszcze jeden wymiar problemu. Chodzi o możliwość manipulacji działaniem agentów przez osoby trzecie. Cyberprzestępcy mogliby wykorzystać luki w zabezpieczeniach, a następnie skierować oprogramowanie do działań sprzecznych z prawem lub interesem instytucji. Taki scenariusz w przypadku banków, szpitali czy operatorów sieci energetycznych miałby poważny ciężar gatunkowy. Właśnie dlatego komisarz postuluje stworzenie ram pozwalających na jednoznaczne ustalenie odpowiedzialności.

Cyfrowa tożsamość jak służbowy identyfikator

Propozycja przedstawiona przez szefa policji zakłada, że każdy agent AI powinien posiadać własną, precyzyjnie zdefiniowaną tożsamość cyfrową. W praktyce mowa o systemie, który umożliwi śledzenie aktywności programów działających w imieniu instytucji. Komisarz porównuje ten mechanizm do identyfikatorów używanych przez pracowników organizacji. Jeżeli człowiek wykonuje określone zadania, można ustalić, kto uzyskał dostęp do dokumentów, kiedy wprowadził modyfikacje i komu przekazał informacje. Taka sama przejrzystość miałaby objąć oprogramowanie.

Każdy ruch pod nadzorem

W wizji przedstawionej przez Sajjanara kluczową rolę odgrywa szczegółowe logowanie operacji. Rejestry aktywności pozwalałyby szybko wskazać źródło problemu w razie incydentu. Administracja systemów otrzymałaby narzędzie do rekonstrukcji działań podjętych przez danego agenta.

Dyskusja dotyczy nie tylko techniki, lecz także prawa i etyki. Wprowadzenie cyfrowych identyfikatorów mogłoby stać się fundamentem nowych regulacji związanych z odpowiedzialnością za decyzje podejmowane przez algorytmy.