Brytyjska policja wyłącza rozpoznawanie twarzy. System źle wskazuje czarnoskórych

Brytyjska policja w hrabstwie Essex zdecydowała o wstrzymaniu wykorzystania technologii rozpoznawania twarzy na żywo po publikacji badań wskazujących na różnice w działaniu systemu wobec różnych grup społecznych. Decyzja zapadła po analizach przeprowadzonych przez naukowców z University of Cambridge.

System LFR, czyli Live Facial Recognition, służy do identyfikowania osób znajdujących się na listach obserwacyjnych. W praktyce oznacza to skanowanie twarzy przechodniów i porównywanie ich z bazą danych obejmującą osoby poszukiwane lub objęte zainteresowaniem służb. Władze Essex podjęły decyzję o przerwie w działaniu systemu, aby przeanalizować wyniki badań oraz przeprowadzić aktualizację oprogramowania wspólnie z dostawcą technologii.

Badania pokazują różnice w identyfikacji

Eksperyment przeprowadzony w warunkach terenowych objął 188 ochotników. Uczestnicy pojawiali się w kontrolowany sposób podczas rzeczywistych działań policji, dzięki czemu możliwe było dokładne porównanie wyników systemu z rzeczywistością.

Analiza wykazała, że system częściej prawidłowo identyfikował mężczyzn niż kobiety. Zwrócono również uwagę na różnice związane z pochodzeniem etnicznym. Wśród niewielkiej liczby błędnych identyfikacji większość dotyczyła osób czarnoskórych.

Badacze podkreślili, że skala próby oraz liczba błędów nie pozwalają na jednoznaczne wnioski. Wyniki wskazują jednak na możliwe odchylenia, które wymagają dalszych analiz.

Dwa raporty, dwa różne wnioski

Sytuację komplikuje fakt, że równolegle powstało drugie opracowanie, które nie wykazało istotnych błędów statystycznych. Rozbieżność wyników sprawiła, że policja zdecydowała się na ostrożne podejście. Przedstawiciele służb podkreślają, że wstrzymanie technologii ma charakter tymczasowy. Trwają prace nad oceną algorytmów oraz ich dostosowaniem do wymogów równego traktowania wszystkich grup społecznych.

Policja zapowiada dalsze testy oraz monitorowanie wyników po ponownym wdrożeniu systemu.

Rząd chce więcej kamer i większego zasięgu

Decyzja o wstrzymaniu LFR pojawia się w momencie, gdy UK Home Office zapowiada rozszerzenie wykorzystania tej technologii. Na początku roku rząd przedstawił plan zwiększenia obecności systemów rozpoznawania twarzy w Anglii i Walii. W dokumentach rządowych znalazła się zapowiedź finansowania kolejnych mobilnych jednostek wyposażonych w LFR. Obecna flota ma zostać znacząco rozbudowana, a systemy mają trafiać do centrów miast i miejsc uznawanych za obszary o podwyższonym poziomie przestępczości.

Na rozwój technologii przewidziano dziesiątki milionów funtów, zarówno na infrastrukturę, jak i dalszy rozwój systemów analitycznych opartych na sztucznej inteligencji.