AI wystawiła kierowcy mandat za telefon na kolanach. Nagranie wywołało burzę

Nagranie z TikToka błyskawicznie obiegło internet i wywołało falę komentarzy o sztucznej inteligencji wymykającej się spod kontroli. Kobieta pokazała mandat opiewający na 1251 dolarów australijskich za telefon leżący ekranem do dołu na jej kolanach. Wielu internautów uznało, że to kolejny przykład błędów algorytmów wykorzystywanych przez policję. Po sprawdzeniu szczegółów okazało się jednak, że historia wygląda zupełnie inaczej.

Choć system rzeczywiście wykorzystuje sztuczną inteligencję do wykrywania potencjalnych naruszeń, mandat nie został wystawiony wyłącznie przez algorytm. Cała sprawa zwróciła jednak uwagę na rosnącą rolę automatycznych systemów nadzoru drogowego i pytania o ich niezawodność.

„Właśnie dostałam mandat na 1250 dolarów za to, że trzymałam telefon na kolanach ekranem do dołu i obie ręce na kierownicy. Całkiem nieźle.”

Nagranie z TikToka wywołało burzę

Krista Campbell opublikowała film, w którym pokazała zawiadomienie o nałożeniu grzywny w wysokości 1251 dolarów australijskich. Do pisma dołączono zdjęcie wykonane przez kamerę monitorującą ruch drogowy. Na fotografii widać kobietę prowadzącą samochód z obiema rękami na kierownicy oraz smartfon spoczywający na jej kolanach ekranem skierowanym w dół.

Campbell przekonuje, że nie korzystała z urządzenia podczas jazdy. Nagranie błyskawicznie zdobyło popularność, a w mediach społecznościowych pojawiły się tysiące komentarzy oskarżających sztuczną inteligencję o niesłuszne ukaranie kierowcy.

Część internautów twierdziła, że algorytmy zaczynają samodzielnie decydować o wystawianiu mandatów. Inni zwracali uwagę, że samo położenie telefonu na kolanach mogło stanowić naruszenie lokalnych przepisów.

@kristakampz

Is this karma for my red light rage bait

♬ original sound - Krista K

W Australii obowiązują znacznie ostrzejsze przepisy

Największe nieporozumienie wynikało z miejsca, w którym doszło do zdarzenia. Wielu komentujących zakładało, że sytuacja miała miejsce w Stanach Zjednoczonych. W rzeczywistości chodzi o australijski stan Queensland.

Tamtejsze przepisy należą do najbardziej rygorystycznych na świecie. Kierowca nie może trzymać telefonu ani opierać go o żadną część ciała, nawet wtedy, gdy urządzenie pozostaje zablokowane i nie jest używane. Dotyczy to również kolan. W praktyce oznacza to, że sam sposób przewożenia smartfona może zostać uznany za wykroczenie, niezależnie od tego, czy kierowca patrzył na ekran lub dotykał urządzenia.

Jak działają kamery wspierane przez sztuczną inteligencję

System wykorzystywany w Queensland korzysta z kamer oraz algorytmów analizujących wykonane zdjęcia. Sztuczna inteligencja wyszukuje fotografie, na których mogło dojść do naruszenia przepisów.

To jednak nie algorytm podejmuje ostateczną decyzję. Zdjęcia są następnie analizowane przez upoważnionych funkcjonariuszy, którzy zatwierdzają lub odrzucają potencjalne wykroczenia.

Nie zmienia to faktu, że automatyzacja odgrywa coraz większą rolę w selekcjonowaniu przypadków trafiających do dalszej analizy. Właśnie ten etap budzi najwięcej pytań dotyczących skuteczności systemów wykorzystujących sztuczną inteligencję.

To nie pierwszy problem z automatycznym systemem

Program monitorowania kierowców funkcjonujący w Queensland już wcześniej wywoływał kontrowersje. W 2023 roku 79-letnia mieszkanka Brisbane otrzymała mandat za niezapięte pasy bezpieczeństwa pasażera. Kobieta przekonywała, że samochód widoczny na zdjęciu nie należał do niej, a osób znajdujących się w pojeździe nigdy wcześniej nie widziała.

Jeszcze w tym samym roku władze zleciły kontrolę programu po wykryciu błędu konstrukcyjnego. Problem przez blisko dwa lata prowadził do nieprawidłowego naliczania punktów karnych za część wykroczeń związanych z pasami bezpieczeństwa. Szacowano, że nieprawidłowości mogły dotyczyć blisko dwóch tysięcy kierowców.

Granica między automatyzacją a odpowiedzialnością

Historia Kristy Campbell pokazuje, jak łatwo pojedynczy przypadek może zostać przedstawiony jako dowód na zawodność sztucznej inteligencji. W rzeczywistości mandat wynikał przede wszystkim z bardzo restrykcyjnych przepisów obowiązujących w Australii, a nie z błędnej interpretacji obrazu przez algorytm.

Cała sytuacja nie kończy jednak dyskusji. Coraz więcej państw wykorzystuje systemy AI do monitorowania ruchu drogowego, rozpoznawania tablic rejestracyjnych czy wykrywania wykroczeń. Im większy udział automatycznych narzędzi w procesie egzekwowania prawa, tym częściej pojawiają się pytania o przejrzystość działania takich rozwiązań, możliwość odwołania się od decyzji oraz odpowiedzialność za ewentualne pomyłki. Nagranie z TikToka przypomina, że nawet jeśli końcową decyzję nadal podejmuje człowiek, to sztuczna inteligencja coraz częściej decyduje o tym, które sprawy trafiają na biurko funkcjonariusza.