Miesiące w więzieniu przez błąd AI. Źle rozpoznała twarz

Systemy rozpoznawania twarzy są coraz częściej wykorzystywane przez policję i różne instytucje publiczne. Technologia ta ma pomagać w identyfikowaniu podejrzanych oraz przyspieszać śledztwa. W praktyce jednak zdarzają się sytuacje, w których algorytmy popełniają błędy, a ich skutki mogą być bardzo poważne.

Jednym z takich przypadków jest historia Angeli Lipps, mieszkanki amerykańskiego stanu Tennessee. Kobieta została zatrzymana przez funkcjonariuszy po tym, jak system rozpoznawania twarzy powiązał ją z dochodzeniem dotyczącym oszustwa bankowego w stanie North Dakota. Zatrzymanie okazało się pomyłką, jednak zanim sprawa została wyjaśniona, kobieta spędziła wiele tygodni w areszcie.

Aresztowanie podczas opieki nad dziećmi

Do zatrzymania doszło w lipcu ubiegłego roku. Funkcjonariusze z United States Marshals Service pojawili się w Tennessee i zatrzymali 50-letnią kobietę pod groźbą użycia broni.

Jednym z takich przypadków jest historia Angeli Lipps, mieszkanki amerykańskiego stanu Tennessee. Kobieta została zatrzymana przez funkcjonariuszy po tym, jak system rozpoznawania twarzy powiązał ją z dochodzeniem dotyczącym oszustwa bankowego w stanie North Dakota. Zatrzymanie okazało się pomyłką, jednak zanim sprawa została wyjaśniona, kobieta spędziła wiele tygodni w areszcie.

W momencie zatrzymania Lipps opiekowała się czwórką małych dzieci. Po zatrzymaniu została przewieziona do lokalnego aresztu, gdzie zakwalifikowano ją jako osobę poszukiwaną w związku ze sprawą prowadzoną w innym stanie.

Według śledczych kobieta miała być powiązana z serią oszustw bankowych, do których dochodziło wiosną 2025 roku w mieście Fargo.

Podejrzenia oparte na analizie nagrań

Śledztwo dotyczyło przypadków wypłat dużych sum pieniędzy z banków przy użyciu fałszywego dokumentu tożsamości. Na nagraniach z kamer monitoringu widać było kobietę posługującą się podrobioną wojskową legitymacją.

Policja zdecydowała się wykorzystać oprogramowanie oparte na sztucznej inteligencji do analizy wizerunku podejrzanej osoby. System wskazał jako potencjalne dopasowanie właśnie Angelę Lipps.

Jeden z prowadzących sprawę funkcjonariuszy porównał zdjęcie z prawa jazdy kobiety oraz fotografie z mediów społecznościowych z nagraniami monitoringu. Na tej podstawie uznano, że istnieje podobieństwo między podejrzaną a Lipps.

Kobieta nigdy nie była w miejscu przestępstwa

Problem polegał na tym, iż zatrzymana kobieta nigdy nie była w stanie North Dakota. Według późniejszych ustaleń w czasie, gdy dochodziło do przestępstw, przebywała ponad 1900 kilometrów dalej, w Tennessee.

Dowodem na to były między innymi zapisy bankowe. Wynikało z nich, iż w czasie wskazanym przez policję kobieta robiła codzienne zakupy i wpłacała czeki z ubezpieczenia społecznego w swoim miejscu zamieszkania.

Mimo to Lipps spędziła w areszcie ponad trzy miesiące bez możliwości wyjścia za kaucją, oczekując na transport do North Dakoty w ramach procedury ekstradycyjnej między stanami.

Zwolnienie dopiero przed świętami

Kobieta została przewieziona do Fargo dopiero po ponad stu dniach spędzonych w areszcie. W trakcie dalszego postępowania jej adwokat przedstawił dokumenty bankowe potwierdzające alibi.

Ostatecznie Lipps została zwolniona z aresztu w Wigilię Bożego Narodzenia. W momencie wyjścia z więzienia znajdowała się jednak w obcym stanie, bez pieniędzy i możliwości powrotu do domu. Pomocy udzielili jej lokalni prawnicy oraz organizacja społeczna F5 Project, która pomogła w organizacji podróży powrotnej do Tennessee.

Skutki pomyłki okazały się bardzo poważne

Długie tygodnie spędzone w areszcie miały dla kobiety poważne konsekwencje. Ponieważ w tym czasie nie mogła regulować swoich zobowiązań finansowych, straciła dom, samochód oraz część swojego majątku.

Jak twierdzi Lipps, do dziś nie otrzymała żadnych przeprosin od policji prowadzącej sprawę.

Podobne przypadki zdarzają się częściej

Historia ta nie jest odosobniona. W ostatnich latach w Stanach Zjednoczonych pojawiło się kilka przypadków, w których osoby zostały zatrzymane na podstawie błędnych wskazań systemów rozpoznawania twarzy.

Jednym z najbardziej znanych przykładów jest sprawa Roberta Williamsa z Detroit. Został on zatrzymany po tym, jak jego zdjęcie z prawa jazdy zostało uznane przez algorytm za dopasowanie do nagrania z kradzieży w sklepie.

Po wyjaśnieniu sprawy władze Detroit zgodziły się wypłacić Williamsowi odszkodowanie w wysokości 300 000 dolarów, czyli około 1,2 mln zł.

W niektórych miastach po takich wydarzeniach zdecydowano się ograniczyć wykorzystywanie technologii rozpoznawania twarzy jako jedynej podstawy do zatrzymania podejrzanych.

Technologia wciąż wymaga dokładnej weryfikacji

Eksperci od lat podkreślają, że systemy oparte na sztucznej inteligencji mogą być pomocnym narzędziem w pracy policji, ale nie powinny zastępować tradycyjnych metod śledczych.

Przypadek Angeli Lipps pokazuje, że błędna identyfikacja może prowadzić do poważnych konsekwencji dla niewinnych osób. Dlatego coraz częściej pojawiają się głosy, że wyniki generowane przez takie systemy powinny być zawsze dokładnie sprawdzane i potwierdzane innymi dowodami.