ONZ stworzyło cyfrowych uchodźców AI. Świat oburzony symulacją cierpienia

To jeden z najbardziej kontrowersyjnych eksperymentów z wykorzystaniem sztucznej inteligencji w ostatnich miesiącach. Instytut badawczy powiązany z Organizacją Narodów Zjednoczonych stworzył dwa wirtualne awatary AI, które mają uświadamiać ludziom problemy uchodźców i konfliktów zbrojnych.

Za projekt odpowiada United Nations University Center for Policy Research, gdzie grupa studentów pod okiem prof. Eduardo Albrechta (Columbia University) opracowała dwie cyfrowe postacie: Amina, fikcyjna uchodźczyni z Sudanu mieszkająca w obozie w Czadzie, oraz Abdalla, żołnierz związany z paramilitarnymi siłami Rapid Support Forces, oskarżanymi o łamanie praw człowieka w Sudanie.

Cyfrowa symulacja konfliktu i cierpienia może banalizować tragedię ludzi żyjących w realnym zagrożeniu.

Awatary miały być dostępne do interakcji online: każdy użytkownik mógł porozmawiać z nimi na stronie eksperymentu. Jednak jak donoszą dziennikarze 404 Media, w praktyce funkcja rejestracji na stronie nie działa (mi też obecnie nie udało się zarejestrować), a projekt już wzbudza poważne kontrowersje.

AI ma tłumaczyć los uchodźców – eksperyment ONZ wywołuje burzę

Choć twórcy podkreślają, że to „zabawa koncepcyjna” i nie jest to oficjalne rozwiązanie ONZ, w raporcie z eksperymentu sugerowano, że podobne AI mogłoby w przyszłości pomóc szybciej przekonywać darczyńców do wspierania uchodźców. I tu pojawił się mur krytyki.

Wielu uczestników warsztatów uznało pomysł za nietrafiony, podkreślając, że „prawdziwi uchodźcy potrafią mówić w swoim imieniu”, a cyfrowa symulacja konfliktu i cierpienia może banalizować tragedię ludzi żyjących w realnym zagrożeniu. Eksperyment ONZ-owskiego instytutu rodzi więc pytania o etykę wykorzystania AI do opowiadania historii, które dzieją się tu i teraz, wciąż kosztując życie i zdrowie tysięcy osób. Takie rozwiązania wydają się nie mieć nic wspólnego z etyką.