Microsoft zwolnił cały zespół etyki w dziale sztucznej inteligencji. Wyrażali obawy wobec AI

Microsoft zwolnił cały zespół etyki funkcjonujący w dziale sztucznej inteligencji, w ramach globalnego zwolnienia 10 000 pracowników. Według informacji zamieszczonej na Platformerze, firma już nie będzie posiadała specjalistów w zakresie monitorowania zgodności z wytycznymi dotyczącymi sztucznej inteligencji, co jest nieodłącznym elementem procesu projektowania produktów.

Według rozmów z byłymi pracownikami Microsoftu, przeprowadzonych przez Platformer, zespół ds. etyki i społeczeństwa miał kluczowe znaczenie dla zapewnienia, że produkty Microsoftu są zgodne z wartościami firmy. Aby kontynuować edukację projektantów i członków zespołu w zakresie "możliwych szkód", jakie produkty mogą wyrządzić, zespół miał stworzyć grę fabularną o nazwie "Judgement Day". Wraz z wykorzystaniem technologii GPT-3 OpenAI przez produkty Microsoftu, takie jak Microsoft Edge, Skype i Bing, zespół skupił się na identyfikowaniu potencjalnych zagrożeń dla infrastruktury firmy.

W ramach zwolnień Microsoft zamknął cały dział, zajmujący się etyką AI. Pracownicy skupiali się m.in. na zagrożeniach nowej technologii dla społeczeństwa oraz samej firmy.

Raport wskazuje, że pracownicy Microsoftu w minionym roku zgłaszali kierownictwu wyższego szczebla swoje obawy dotyczące potencjalnie negatywnego wpływu narzędzi sztucznej inteligencji, takich jak Dall-E, na kariery twórczych profesjonalistów. Podobne zmartwienia dotyczące Bing AI również były wyrażane. W odróżnieniu od ChatGPT, Microsoft Bing Chat wykorzystuje cytaty, aby upewnić się, że użytkownicy rozumieją, skąd pochodzą treści, które czytają.

W ciągu ostatnich lat zespół, który w 2020 roku był największy, skupiał się na identyfikowaniu zagrożeń związanych z wdrożeniem technologii OpenAI przez Microsoft. Zespół ten liczył około 30 pracowników, w tym inżynierów, projektantów i filozofów, jednak w wyniku reorganizacji w październiku 2022 roku został zredukowany do zaledwie siedmiu osób.

W roku 2020 Google również zwolniło Timnit Gebru, badaczkę zajmującą się etyką sztucznej inteligencji, po tym jak opublikowała krytyczny artykuł na temat dużych modeli językowych, które dwa lata później stały się bardzo popularne. Kilku innych czołowych liderów z dziedziny również odeszło w wyniku sprzeciwu wobec tej decyzji, co wpłynęło negatywnie na wiarygodność firmy w kwestiach dotyczących odpowiedzialności za sztuczną inteligencję.