Algorytm odrzucił cię w rekrutacji? Może być rasistą

Coraz więcej firm wykorzystuje sztuczną inteligencję do selekcji kandydatów na nowych pracowników, ale najnowsze badania pokazują, zaskakujące problemy takich rozwiązań. Naukowcy z Uniwersytety Stanford przeanalizowali aż 4 miliony aplikacji o pracę obsługiwanych przez platformę Pymetrics i odkryli oznaki „systemowego odrzucania” części kandydatów przez algorytmy z dość niespodziewanych powodów.

Pymetrics wykorzystuje zestaw internetowych gier i testów psychometrycznych do oceniania cech kandydatów, takich jak szybkość reakcji, skłonność do ryzyka czy zdolność współpracy z innymi. Firmy chętnie wdrażają tego typu systemy, ponieważ pozwalają szybko filtrować ogromne liczby CV jeszcze przed kontaktem z rekruterem. Problem w tym, że wyniki badania sugerują wyraźne nierówności w sposobie działania algorytmów.

Coraz więcej firm wykorzystuje sztuczną inteligencję do selekcji kandydatów na nowych pracowników, ale najnowsze badania pokazują, zaskakujące problemy takich rozwiązań.

Czarnoskórzy i azjatyccy kandydaci częściej odrzucani

Badacze odkryli „wyraźne dysproporcje rasowe” w wynikach rekrutacji. W przypadku jednej na dziesięć analizowanych ofert pracy algorytmy wykazywały negatywny wpływ wobec czarnoskórych kandydatów. Z kolei w jednej na dwadzieścia ofert podobny problem dotyczył kandydatów azjatyckiego pochodzenia. 

Naukowcy zwracają też uwagę na inny problem. Wiele firm korzystało z identycznych modeli AI do oceny kandydatów. W praktyce oznacza to, że osoba odrzucona przez jeden algorytm mogła automatycznie przegrywać również w procesach rekrutacyjnych innych firm korzystających z tego samego modelu.

Kandydaci mogą być oceniani identycznie w różnych firmach

Badanie wykazało, że część kandydatów była odrzucana seryjnie przez różne przedsiębiorstwa. Aż 4% osób aplikujących na 10 stanowisk zostało odrzuconych we wszystkich przypadkach przez algorytmy platformy. Eksperci podkreślają, że kandydaci często nie zdają sobie sprawy, iż ich aplikacje mogą być oceniane praktycznie identycznie w różnych organizacjach. Problem staje się szczególnie poważny w sytuacji, gdy pojedynczy dostawca technologii HR zaczyna dominować na rynku.

Tym samym rosnąca popularność narzędzi AI w rekrutacji budzi coraz większe kontrowersje. Kandydaci skarżą się, że spędzają godziny na wykonywaniu testów i gier, podczas gdy ich aplikacje często nie docierają nawet do człowieka, bo są odrzucane przez algorytm. Najnowsze badania pokazują natomiast, że automatyzacja rekrutacji może nie tylko przyspieszać procesy, ale też utrwalać istniejące uprzedzenia i błędy systemowe.