AI wskazała go jako przestępcę. Niewinny mężczyzna pozywa policję po głośnej pomyłce

Technologie rozpoznawania twarzy od lat są przedstawiane jako jedno z najpotężniejszych narzędzi współczesnych organów ścigania. Przypadek z Florydy pokazuje jednak, jak wysoką cenę może zapłacić człowiek, gdy śledczy zbyt mocno zaufają algorytmowi. Robert Dillon pozwał policję oraz kilka biur szeryfów po tym, jak został aresztowany na podstawie wyniku systemu sztucznej inteligencji wskazującego 93-procentową zgodność jego twarzy z wizerunkiem podejrzanego.

Mężczyzna utrzymuje, że nigdy nie był w miejscu, gdzie doszło do przestępstwa, a funkcjonariusze mieli pominąć szereg informacji przemawiających na jego korzyść.

Jedno wskazanie algorytmu uruchomiło lawinę

Sprawa sięga listopada 2023 r., kiedy w restauracji McDonald's w Jacksonville Beach na Florydzie doszło do incydentu z udziałem nieletniej dziewczynki. Według zgłoszenia nieznany mężczyzna miał próbować nakłonić dziecko do opuszczenia lokalu. Śledczy zabezpieczyli nagrania monitoringu i rozpoczęli poszukiwania sprawcy. Kluczowym elementem dochodzenia stał się system FACES, ogromna baza rozpoznawania twarzy zarządzana przez biuro szeryfa hrabstwa Pinellas. Narzędzie analizuje miliony zdjęć pochodzących między innymi z praw jazdy oraz policyjnych kartotek.

Po przeprowadzeniu analizy system wskazał Roberta Dillona jako potencjalnego sprawcę. Wynik miał wynosić 93 proc. zgodności. Dla śledczych okazało się to wystarczające, by skierować dochodzenie właśnie na niego.

Mężczyzna mieszkał setki kilometrów od miejsca zdarzenia

Według pozwu Dillon mieszka w Fort Myers, ponad 480 kilometrów od Jacksonville Beach. Twierdzi, że od lat nie odwiedzał tej części Florydy. Co szczególnie istotne, policyjne sprawdzenie danych z automatycznych czytników tablic rejestracyjnych nie wykazało obecności jego samochodów w okolicy miejsca zdarzenia. Informacje te miały jednak nie znaleźć się we wniosku o wydanie nakazu aresztowania.

Prawnicy reprezentujący Dillona podkreślają, że funkcjonariusze dysponowali materiałami przeczącymi hipotezie o jego udziale w zdarzeniu, ale nie wykorzystali ich podczas postępowania. W pozwie znalazły się również zarzuty dotyczące pominięcia rozmowy telefonicznej z Dillonem. Mężczyzna miał stanowczo zaprzeczyć jakimkolwiek związkom ze sprawą i zwrócić uwagę na charakterystyczną bliznę przebiegającą przez twarz. Według jego pełnomocników cecha ta nie została właściwie porównana z osobą widoczną na nagraniu.

Problem zaczyna się od jakości zdjęć

Jednym z najbardziej kontrowersyjnych elementów całej historii jest materiał wykorzystany do działania algorytmu. System nie analizował bezpośrednio oryginalnego pliku z monitoringu. Według pozwu śledczy posłużyli się fotografiami przedstawiającymi ekran komputera, na którym odtwarzano nagranie. Takie zdjęcia mogą zawierać odbicia światła, zniekształcenia kolorów oraz utratę szczegółów. Prawnicy Dillona argumentują, że już na tym etapie jakość materiału była na tyle słaba, iż wynik analizy nie powinien stanowić podstawy do podejmowania tak daleko idących decyzji.

Dodatkowe kontrowersje wzbudza sam wskaźnik zgodności. Eksperci od lat zwracają uwagę, że podobne wartości nie oznaczają prawdopodobieństwa wskazania właściwej osoby. To jedynie matematyczne porównanie dwóch cyfrowych wzorców twarzy. Innymi słowy, wynik 93 proc. nie oznacza automatycznie, że istnieje 93-procentowa szansa, iż na zdjęciu znajduje się ta sama osoba.

Aresztowanie i miesiące walki o dobre imię

Robert Dillon został zatrzymany w sierpniu 2024 r. w swoim domu na oczach rodziny. Oskarżenie dotyczyło próby zwabienia dziecka, jednego z najbardziej obciążających społecznie zarzutów. Mężczyzna spędził noc w areszcie, musiał zdobyć środki na kaucję i przez kolejne miesiące mierzył się z konsekwencjami postępowania karnego. Jak wynika z pozwu, jego zdjęcie policyjne szybko trafiło do internetu i pozostaje tam dostępne mimo późniejszego wycofania zarzutów.

Dillon prowadzi działalność związaną z połowem krabów. Aresztowanie nastąpiło w jednym z najważniejszych okresów sezonu, przez co utracił część dochodów. Według dokumentów sądowych przez długi czas unikał publicznych miejsc z obawy przed reakcjami mieszkańców.

Zarzuty wobec śledczych

Pozew nie ogranicza się wyłącznie do krytyki technologii rozpoznawania twarzy. Prawnicy Dillona twierdzą, że śledczy zrezygnowali z wielu klasycznych metod dochodzeniowych. Wśród niewykorzystanych źródeł informacji wymieniono dane dotyczące zamówień mobilnych w McDonald's, historię płatności, informacje z aplikacji restauracji, dane lokalizacyjne telefonu, dokumentację podróży oraz dodatkowe nagrania monitoringu.

Zdaniem autorów pozwu policja skupiła się na potwierdzeniu wyniku wskazanego przez algorytm zamiast na weryfikacji wszystkich dostępnych dowodów.

Sam zainteresowany nie kryje rozgoryczenia. W jednym z wywiadów stwierdził, że skoro algorytm wskazał 93-procentową zgodność, to z jego perspektywy był „w 100 procentach niepoprawny”.

Teraz o tym, czy funkcjonariusze dopuścili się zaniedbań i czy wykorzystanie technologii przekroczyło dopuszczalne granice, zdecyduje amerykański sąd. Wynik procesu może stać się jednym z najważniejszych precedensów dotyczących odpowiedzialności za błędy systemów sztucznej inteligencji wykorzystywanych przez służby.