Algorytm Facebooka oznaczył agresywnych czarnoskórych jako małpy naczelne

Użytkownicy Facebooka, którzy oglądali przesłany przez brytyjski tabloid materiał z czarnymi mężczyznami, zobaczyli też dość ciekawe powiadomienie od sieci społecznościowej z pytaniem, czy chcieliby "oglądać filmy o naczelnych". Oczywiście nie trzeba było długo czekać na prawdziwą burzę oraz przeprosiny Facebooka.

W weekend Facebook przepraszał za "niedopuszczalny błąd" i zapowiada, że wprowadzone zostaną zmiany w funkcji polecanych materiałów, aby mieć pewność, że nic podobnego już się nie wydarzy. Cała sprawa dotyczy materiału przesłanego przez The Daily Mail. Firm przedstawia czarnoskórych, którzy wdali się w bójki z białymi cywilami oraz z policją. Darci Groves, były menedżer ds. projektowania treści na Facebooku, natknęła się na takie oznaczenie filmu, a następnie wrzuciła wpis na ten temat na forum opinii o produktach dla obecnych i byłych pracowników Facebooka. W odpowiedzi menedżer produktu Facebook Watch (usługi wideo) oświadczył, że firma "bada pierwotną przyczynę".

Materiał przedstawiający bójkę czarnoskórych z białymi cywilami i policją, został oznaczony przez Facebooka jako film z "naczelnymi". Facebook przeprasza.

Dani Lever, rzeczniczka Facebooka, powiedziała w oświadczeniu: "Jak powiedzieliśmy, chociaż ulepszyliśmy naszą sztuczną inteligencję, wiemy, że nie jest ona idealna i mamy jeszcze sporo do zrobienia. Przepraszamy każdego, kto mógł zobaczyć te obraźliwe rekomendacje". Google, Amazon i inne firmy technologiczne od lat badają kwestię "uprzedzeń" u sztucznej inteligencji i pojawiają się głosy, że algorytmy mają problemy z rozpoznawaniem osób z innym kolorem skóry, co rzekomo prowadzi do dyskryminacji i aresztowań z powodu błędu komputera.

Kwestie rasowe powodują problemy nie tylko na portalu, ale również w siedzibie Facebooka. W 2016 roku Mark Zuckerberg poprosił pracowników o zaprzestanie przekreślania frazy "Black Lives Matter" i zastępowania jej zwrotem "All Lives Matter" w przestrzeni ogólnodostępnej w centrali firmy Menlo Park w Kalifornii. Wpadka Facebooka nie jest pierwszym takim przypadkiem w sieci. Przykładowo w 2015 roku Zdjęcia Google błędnie oznaczyły zdjęcia czarnoskórych, twierdząc, że są to goryle, za co Google mocno przepraszało i obiecywało zmiany algorytmu. Ponad dwa lata później Wired odkrył, że rozwiązaniem Google było usunięcie słowa "goryl" z wyszukiwań, przy jednoczesnej blokadzie fraz "szympans" i "małpa".

Zobacz także:

• WhatsApp ukarane rekordową kwotą za złamanie RODO i przekazywanie danych do Facebooka
• Boty odpowiadają za dużą część ruchu w sieci. Problem staje się coraz poważniejszy
• Apple wstrzymuje się z wprowadzeniem budzącego kontrowersje pomysłu