Zakazane symbole w ChatGPT. Użytkownicy domagają się cenzury

W tym tygodniu OpenAI zaprezentowało nową wersję swojego generatora obrazów ChatGPT, który wzbudził gorące dyskusje na temat moderacji treści.  Nie wszystkim się podoba, że jednym z elementów systemu jest możliwość generowania wizerunków zawierających symbole o ciężkim historycznym i kulturowym znaczeniu, takie jak swastyka, w określonych kontekstach.

Joanne Jang, szefowa działu produktów OpenAI, odniosła się do decyzji firmy: "Rozumiemy, że symbole takie jak swastyki niosą ze sobą głęboką i bolesną historię. Jednocześnie zdajemy sobie sprawę, że mogą one pojawiać się w edukacyjnych lub kulturowych kontekstach. Całkowity zakaz ich używania mógłby ograniczyć sensowne rozmowy i eksploracje intelektualne".

Jednak nowe zasady wywołały burzliwą debatę na temat ryzyka niezamierzonego wspierania propagandy i dezinformacji. Chociaż system wprowadza ograniczenia dotyczące wykorzystania symboli, testy wykazały, że można je ominąć poprzez specyficzne sformułowanie polecenia. Na przykład, po wpisaniu "drzwi ze swastyką" generator odmówił wykonania zadania, ale gdy użytkownik podał, że chodzi o "zadanie szkolne", narzędzie zaakceptowało prośbę i poprosiło o dodatkowe szczegóły. Nie zawsze jednak jest to możliwe i chat często odmawia przedstawienia nazistowskiej swastyki, co sugeruje, że moderacja jednak funkcjonuje.

Krok ku mniejszej moderacji?

Nowa polityka OpenAI wpisuje się w szerszy trend zmniejszania roli moderatorów treści w firmach technologicznych. "Pracownicy laboratorium AI nie powinni być arbitrami tego, co ludzie mogą, a czego nie mogą tworzyć" – twierdzi Jang. OpenAI podjęło decyzję o rezygnacji z surowych filtrów na rzecz modelu opartego na "krzywdzie w świecie rzeczywistym". Jednak definicja tej "krzywdy" pozostaje niejasna i budzi wątpliwości wśród ekspertów.

Kontrowersje budzi również podejście OpenAI do wizerunków osób publicznych. Dotychczas system posiadał listę polityków i celebrytów, których podobizn nie można było generować, jednak teraz wprowadzono mechanizm pozwalający im rezygnować z tego ograniczenia. Krytycy obawiają się, że może to prowadzić do wzrostu dezinformacji wizualnej i kreowania fałszywych narracji politycznych.

Polityczne i społeczne konsekwencje

Nowa polityka OpenAI wywołała głosy sprzeciwu w kontekście globalnego wzrostu antysemityzmu i nacjonalistycznych nastrojów. W momencie, gdy przypadki przemocy, wandalizmu i mowy nienawiści osiągają rekordowe poziomy, jak podaje BBC, luzowanie regulacji dotyczących kontrowersyjnych symboli może zostać odebrane jako nieodpowiedzialne, co równa się wezwaniu do wprowadzenia moderacji i cenzury.

Całkowity zakaz kontrowersyjnych symboli „może zniweczyć sensowne rozmowy i intelektualne eksploracje” – twierdzi OpenAI.

Wielu ekspertów podkreśla, że problemem nie jest sama technologia, ale sposób jej wdrażania i nadzorowania. Meta (dawniej Facebook) oraz X (dawniej Twitter) także zmagały się z pytaniami o moderację treści. Sam Elon Musk reklamował swojego chatbota Grok jako mniej cenzurowany alternatywny generator obrazów, podczas gdy Mark Zuckerberg argumentował, że Meta powinna "wrócić do korzeni wolności wypowiedzi".

Czy czeka nas rewolucja w regulacjach AI?

Decyzja OpenAI może mieć długofalowe skutki dla całej branży. Moderowanie treści generowanych przez AI to jedno z największych wyzwań współczesnej technologii. Prezydent USA Donald Trump w swoim najnowszym rozporządzeniu wykonawczym podkreślił potrzebę "przywrócenia wolności słowa i zakończenia federalnej cenzury", co może wpłynąć na przyszłe regulacje dotyczące platform internetowych.

W Kongresie trwają obecnie prace nad reformą sekcji 230 amerykańskiej ustawy o ochronie przyzwoitości w komunikacji, która zwalnia platformy internetowe z odpowiedzialności za treści publikowane przez użytkowników. Czy reformy te doprowadzą do bardziej rygorystycznych zasad dotyczących AI, czy też do dalszej liberalizacji treści? Odpowiedź na to pytanie może zadecydować o przyszłości generatywnej sztucznej inteligencji.