ChatGPT będzie zgadywać ile masz lat. Jeśli się pomyli, czeka cię weryfikacja selfie

OpenAI było w ostatnich miesiącach wielokrotnie oskarżane o weryfikacji nieletnich użytkowników, co w przeszłości prowadziło do tragedii. Firma w związku z tym postanowiła dołączych do rosnącej grupy firm technologicznych, które coraz mocniej stawiają na kontrolę wieku użytkowników. 

Twórcy ChatGPT rozpoczęli globalne wdrażanie narzędzia do przewidywania wieku, którego celem jest określenie, czy dana osoba może być nieletnia. To kolejny krok w stronę ostrzejszych ograniczeń i przygotowanie gruntu pod nowe, bardziej kontrowersyjne funkcje.

Algorytm zamiast dowodu osobistego

Nowy system nie opiera się na jednym parametrze. Model analizuje zestaw sygnałów behawioralnych i danych konta, takich jak czas istnienia profilu, typowe godziny aktywności, wzorce korzystania z usługi w dłuższym okresie oraz wiek zadeklarowany przez użytkownika. Na tej podstawie ChatGPT ma oceniać, czy dana osoba może być poniżej wymaganego wieku.

Twórcy ChatGPT rozpoczęli globalne wdrażanie narzędzia do przewidywania wieku, którego celem jest określenie, czy dana osoba może być nieletnia.

Jeśli algorytm się pomyli i uzna pełnoletniego użytkownika za nieletniego, jedyną drogą odwołania będzie weryfikacja tożsamości. OpenAI wymaga w takim przypadku przesłania selfie za pośrednictwem zewnętrznej platformy Persona, zajmującej się potwierdzaniem wieku i tożsamości.

Reakcja spóźniona, ale konieczna

Dotychczas branża AI była często krytykowana za wdrażanie nowych funkcji „najpierw”, a zabezpieczeń dopiero wtedy, gdy pojawiały się realne problemy. Samo OpenAI znalazło się wcześniej w centrum kontrowersji po pozwie dotyczącym śmierci nastolatka, który rzekomo wykorzystywał ChatGPT przy planowaniu samobójstwa. Dopiero po tym zdarzeniu firma zaczęła mówić o automatycznych ograniczeniach treści dla młodszych użytkowników i powołała radę doradczą ds. zdrowia psychicznego. Obecne działania mają sprawiać wrażenie bardziej prewencyjnych niż reaktywnych, choć trudno nie odnieść wrażenia, że są one wymuszone presją regulacyjną i społeczną.

„Tryb dla dorosłych” i stare problemy

Weryfikacja wieku ma też związek z planowanym wprowadzeniem tzw. trybu dla dorosłych, który pozwoli na generowanie i konsumowanie treści uznawanych za NSFW. To jednak rodzi pytania o skuteczność całego systemu. Doświadczenia innych platform, takich jak Roblox, pokazują, że młodsi użytkownicy często potrafią omijać zabezpieczenia, jeśli bardzo zależy im na dostępie do „dorosłych” funkcji.

OpenAI stara się więc balansować między bezpieczeństwem a swobodą użytkowników. Czy algorytmy zgadywania wieku i obowiązkowe selfie okażą się skuteczne, to pokaże dopiero praktyka.