To już nie filtr wulgaryzmów. Roblox zmienia treść wiadomości graczy w czasie rzeczywistym

Platforma gamingowa Roblox rozpoczęła wdrażanie nowego systemu moderacji opartego na sztucznej inteligencji. Mechanizm ingeruje w treść wiadomości czatu jeszcze przed ich dostarczeniem do odbiorcy. Tekst wpisany przez użytkownika może zostać automatycznie przeformułowany przez algorytm. W efekcie rozmówca widzi zmienioną wersję wiadomości.

Nowa funkcja działa w czasie rzeczywistym. Platforma nie ogranicza się do blokowania wulgaryzmów ani ich maskowania symbolami. System sztucznej inteligencji generuje alternatywną treść uznaną za bardziej odpowiednią.

Nowy system oparty na sztucznej inteligencji pokazuje kierunek rozwoju narzędzi moderacyjnych. Algorytmy coraz częściej nie tylko analizują treści, lecz także aktywnie je przekształcają.

Algorytm decyduje, jak brzmi Twoja wiadomość

Nowy mechanizm działa w sposób odmienny od klasycznych filtrów językowych. W starszych systemach zakazane słowa były zastępowane znakami „#” lub cała wiadomość była blokowana. W przypadku nowego rozwiązania tekst jest modyfikowany przez model sztucznej inteligencji.

Platforma tłumaczy, że algorytm przekształca wypowiedź w „bardziej uprzejmy język”, zachowując sens oryginalnej wiadomości. Jeden z przykładów prezentowanych przez firmę pokazuje prostą zmianę komunikatu. Krótkie zdanie zawierające skrót uznany za wulgarny zostaje zamienione na neutralną wersję bez obraźliwych elementów.

Odbiorca widzi wyłącznie wersję wygenerowaną przez system. Autor wiadomości nie ma możliwości zablokowania tej modyfikacji przed wysłaniem.

Zakazany język w nowej definicji

Twórcy platformy rozszerzyli definicję niedozwolonego języka. Obejmuje ona nie tylko wulgaryzmy. System analizuje także błędy ortograficzne, znaki specjalne oraz inne metody wykorzystywane przez użytkowników do omijania filtrów moderacyjnych.

Algorytm próbuje rozpoznać sytuacje, w których gracze świadomie modyfikują pisownię wulgaryzmów. Po wykryciu takiej próby sztuczna inteligencja generuje alternatywną wersję wiadomości.

Jednocześnie firma rozwija cały system filtrowania treści. Celem jest identyfikacja większej liczby wariantów wypowiedzi naruszających regulamin platformy.

Nowe zasady komunikacji w grach

Na razie funkcja działa w ograniczonym zakresie. System obejmuje czaty prowadzone podczas rozgrywki między użytkownikami z weryfikacją wieku. Dotyczy także rozmów z wykorzystaniem funkcji „Trusted Connections”.

Weryfikacja wieku została wprowadzona przez Roblox w poprzednim miesiącu. Po jej przejściu użytkownicy mogą komunikować się z graczami z sąsiednich kategorii wiekowych. Grupa dziewięcio- i dwunastolatków może prowadzić rozmowy z graczami w wieku od trzynastu do piętnastu lat. Platforma planuje rozszerzanie tej funkcjonalności na kolejne obszary komunikacji.

Inne gry stosują inne podejście

Moderacja języka nie jest nowym zjawiskiem w świecie gier online. Podobne filtry działają również w wielu innych tytułach. W popularnej grze Minecraft niedozwolone słowa są maskowane lub blokowane.

Różnica polega na sposobie ingerencji w treść wypowiedzi. W systemie zastosowanym w Roblox algorytm nie usuwa fragmentów tekstu. Zamiast tego tworzy nową wersję komunikatu przypisaną do autora wiadomości.

Debata o granicach moderacji

Nowa technologia wzbudziła debatę na temat przyszłości komunikacji w platformach cyfrowych. Krytycy rozwiązania podnoszą argument dotyczący ingerencji w wypowiedzi użytkowników. Według nich system nie tylko filtruje treści, lecz także generuje komunikaty przypisywane do konkretnych osób.
Zwolennicy rozwiązania wskazują jednak na potrzebę utrzymania bezpiecznego środowiska dla młodszych użytkowników. Platforma Roblox od lat zmaga się z problemem moderacji treści w jednej z największych społeczności gamingowych na świecie.