Według raportu systemy rozpoznawania twarzy są rasistowskie

Systemy rozpoznawania twarzy są dziś stosowane w wielu urządzeniach i stanowią bardzo popularną formę weryfikacji biometrycznej. Wydawać by się mogło, że oprogramowanie nie ma żadnych uprzedzeń w stosunku do sprawdzanych użytkowników jednak sytuacja zmienia się, gdy zostanie ono odpowiednio skonfigurowane. Według raportu, którego opracowanie zlecił rząd Stanów Zjednoczonych systemy rozpoznawania twarzy mają tendencje do uprzedzeń w stosunku do ludzi z niebiałym kolorem skóry czy inną płcią niż mężczyzna zaś prawdziwe problemy pojawiają się podczas próby identyfikacji ludzi o fizjonomii azjatyckiej lub czarnoskórych gdzie dość często dochodzi do pomyłek. W praktyce większą ilość poprawnych weryfikacji twarzy odnotowano u ludzi białych niż Afroamerykanów czy Azjatów lub płci żeńskiej.

Amerykańskie badanie wykazało, że systemy rozpoznawania twarzy częściej błędnie weryfikują ludzi czarnoskórych i Azjatów niż osoby białe.

W zależności od zastosowanych algorytmów systemy myliły się od 10 do 100 razy częściej. Największy procent niepoprawnych weryfikacji odnotowano u rdzennych mieszkańców Ameryki. Oberwało się także technologii Microsoftu, która ma prawie 10-krotnie więcej fałszywych trafień w przypadku ciemnoskórych kobiet niż u ciemnoskórych mężczyzn. Amerykański producent w oświadczeniu stwierdził natomiast, że z uwagą czyta tego rodzaju raporty i pracuje nad odpowiednimi poprawkami eliminującymi wspomniane sytuacje. 

Warto podkreślić, że wpadka przytrafiła się też algorytmowi Apple Card mającemu przyznawać kredyty częściej mężczyznom niż kobietom i to bez względu na ich zdolność kredytową. Patrick Grother, główny autor rzeczonego raportu stwierdził, że zebrane podczas prac dane są cennym materiałem dla różnych grup społecznych w tym programistów i użytkowników końcowych zastanawiających się nad ograniczeniami oraz odpowiednim wykorzystaniem dostępnych algorytmów.