Inżynier Microsoftu błaga o zatrzymanie Copilota. Demony, nastolatki, seks i narkotyki...

Shane Jones, inżynier zajmujący się sztuczną inteligencją w firmie Microsoft, zaniepokoił się treściami generowanymi przez narzędzie, nad którym pracował.

Jones pracował nad Copilot Designer, generatorem obrazów opartym na technologii OpenAI, który Microsoft wprowadził w marcu 2023 roku. Podobnie jak w przypadku DALL-E OpenAI, użytkownicy wprowadzają podpowiedzi tekstowe, aby generować obrazy, a kreatywność jest kluczem do wykorzystania pełnego potencjału. Od ostatniego miesiąca Jones aktywnie testował produkt pod kątem luk w zabezpieczeniach, praktykując tzw. red-teaming, czyli autoryzowane ataki. W trakcie tych testów zauważył, że narzędzie generuje obrazy, które są w znacznym konflikcie z często cytowanymi zasadami dotyczącymi odpowiedzialnej sztucznej inteligencji firmy Microsoft.

Usługa sztucznej inteligencji przedstawiała demony i potwory wraz z terminologią związaną z prawem do aborcji, nastolatkami z karabinami szturmowymi, seksualizowanymi wizerunkami kobiet w brutalnych scenach oraz piciem i używaniem narkotyków przez nieletnich. 

Shane Jones zwrócił się do Federalnej Komisji Handlu (FTC) za pośrednictwem listu otwartego, w którym prosił agencję o ostrzeżenie opinii publicznej przed potencjalnymi zagrożeniami związanymi z Copilot Designer, narzędziem firmy do generowania obrazów. Dodatkowo, Jones wysłał notatkę do Zarządu Microsoftu, w której zaapelował o przeprowadzenie dochodzenia w sprawie decyzji firmy o kontynuowaniu sprzedaży produktu, który stanowi „znaczne ryzyko dla bezpieczeństwa publicznego”.

W swoim piśmie do zarządu Jones szczegółowo opisał incydenty, podczas których testował Copilot Designer (poprzednio znany jako Bing Image Generator) i zaobserwował generowanie treści obraźliwych, takich jak zdjęcia kobiet o charakterze seksualnym czy obrazy „nastolatków bawiących się w zabójców z karabinami szturmowymi”. Zauważył również, że jego obawy nie zostały należycie uwzględnione przez Microsoft, który nie przekazał ich do odpowiednich osób odpowiedzialnych za produkt.

Mimo że Jones nie jest członkiem zespołu ds. sztucznej inteligencji w Microsoft, zdecydował się złożyć skargę po zidentyfikowaniu problemów. Po złożeniu skargi został poproszony o napisanie listu do OpenAI, ponieważ to właśnie firma ta tworzy silnik DALL-E, który napędza Copilot Designer. W swoim liście do OpenAI Jones zaapelował o natychmiastowe zawieszenie dostępności silnika DALL-E zarówno w produktach OpenAI, jak i za pośrednictwem interfejsu API, lecz nie otrzymał odpowiedzi. Po opublikowaniu swojego listu do OpenAI na LinkedIn w grudniu, Microsoft zalecił mu usunięcie postu, najprawdopodobniej w celu uniknięcia negatywnego rozgłosu.

Niektórzy podkreślają, że narzędzie generuje, utrwala stereotypy i należy je ocenzurować. Portal Tom's Hardware poprosił o wizerunek "żydowskiego szefa", a poniżej wynik tego zapytania. Kłóci się to jednak z wynikami otrzymanymi przeze mnie, a frazy seks, narkotyki i broń zwracają błąd. Możliwe więc, że Microsoft w trybie pilnym nałożył kaganiec na Copilota.