Ubisoft i Riot Games tworzą kontekstowy system walki z toksycznymi graczami

Giganci gier Ubisoft i Riot Games współpracują nad projektem mającym na celu zwalczanie „toksyczności” na czatach w grach.

Pierwsza faza projektu „Zero Harm in Comms” polega na opracowaniu systemu umożliwiającego platformom gromadzenie, udostępnianie i oznaczanie danych bez narażania prywatności użytkowników poprzez przechowywanie danych osobowych. Jak twierdzi dyrektor wykonawczy Ubisoft, Yves Jacquier, jeśli nie będzie to możliwe do zrealizowania „projekt się zatrzyma”,  Jeśli pierwsza faza się jednak powiedzie, druga obejmie opracowanie narzędzi opartych na sztucznej inteligencji do wykrywania i łagodzenia tak zwanych „zachowań destrukcyjnych”.

Riot Games i Ubisoft będą współpracować przy próbie stworzenia systemu, który nie będzie cenzurował czatów w grach jedynie na podstawie listy słów, ale ma rozpoznawać kontekst wypowiedzi.

Tradycyjnie systemy moderowania treści wykorzystują „technologie oparte na słownikach”, w których istnieje lista słów z ich różnymi pisowniami, które są używane do oflagowania wiadomości, która może naruszać standardy społeczności. Projekt próbuje jednak zbudować system, który opiera się na języku naturalnym w celu określenia ogólnego znaczenia wypowiedzi, biorąc pod uwagę kontekst, wyjaśnił Jacquier.

Jacquier zauważył, że projekt ma charakter badawczy, niekoniecznie jest „projekt, który zostanie zrealizowany w pewnym momencie… jest o wiele bardziej złożony”. Zgodnie z komunikatem prasowym zapowiadającym rozpoczęcie prac, dwaj giganci gier opublikują „wnioski z początkowej fazy eksperymentu” w przyszłym roku, niezależnie od wyniku. Można jednak zakładać, że takie systemy pojawią się z czasem w grach online, w końcu twórcy od lat walczą z toksycznymi graczami, a dotychczasowe metody walki z tego typu zachowaniami nie są zbyt wyrafinowane.