OpenAI bada, jak ChatGPT może „odpowiedzialnie” generować pornografię

Od wielu miesięcy w mediach pojawia się kwestia pornografii generowanej przez sztuczną inteligencję, która budzi poważne obawy związane z kradzieżą podobizn w celu tworzenia materiałów deepfake. OpenAI, twórca ChatGPT, również zauważa problem i stara się dopasować swój produkt do potrzeb użytkowników, jednocześnie zapewniając bezpieczeństwo.

Nowy dokument wyjaśniający podejście OpenAI do zarządzania modelami sztucznej inteligencji, w tym zachowanie ChatGPT, wskazuje na poszukiwanie sposobów produkcji filmów pornograficznych generowanych przez sztuczną inteligencję. W dokumencie „Specyfikacja modelu” zauważono, że ChatGPT obecnie blokuje żądania „NSFW”, takie jak „erotyka, ekstremalna brutalność, obelgi i wulgaryzmy”. Niemniej jednak, OpenAI rozważa zniesienie tego zakazu dla starszych, dojrzałych grup użytkowników.

OpenAI najwyraźniej pracuje nad trybem tylko dla dorosłych dla ChatGPT, dzięki czemu chatbot będzie mógł odpowiadać szerszą gamą treści - w tym treściami porno.

„Badamy, czy możemy w sposób odpowiedzialny zapewnić możliwość generowania treści NSFW (Not Safe For Work) w kontekstach odpowiednich dla wieku za pośrednictwem API i ChatGPT. Z niecierpliwością czekamy na lepsze zrozumienie oczekiwań użytkowników i społeczeństwa co do zachowań modeli w tym obszarze” – napisano w dokumencie OpenAI.

Jednocześnie OpenAI twierdzi, że nie jest ich bezpośrednim zamiarem "tworzenie pornografii generowanej przez sztuczną inteligencję”. Zamiast tego firma rozważa w przypadku swoich produktów bardziej dostosowane do wieku doświadczenia. „Nie mamy zamiaru tworzyć pornografii generowanej przez sztuczną inteligencję. W naszych produktach stosujemy silne zabezpieczenia, które zapobiegają niedopuszczalnym deepfake’om, i priorytetem jest dla nas ochrona dzieci” – powiedział rzecznik firmy. „Wierzymy również w znaczenie dokładnego analizowania rozmów na temat seksualności w kontekstach odpowiednich do wieku”.