Call of Duty: Modern Warfare III będzie wykorzystywać AI do blokowania toksycznych graczy

Gry przeważnie kojarzą nam się z czymś pozytywnym, a tytuły multiplayerowe mają szczególną moc łączenia ludzi na całym świecie. Nie da się jednak ukryć, że ze względu na zachowania pewnej niewielkiej, ale głośnej liczby graczy, granie po sieci może być niestety kojarzone z mową nienawiści. Activision postanowiło zawalczyć z tego typu toksycznymi zachowaniami i w związku z tym ogłosiło nową współpracę z Modulate, firmą wykorzystującą technologię do identyfikowania mowy nienawiści, w celu bezpośredniej moderacji czatu głosowego w Call of Duty.

System sztucznej inteligencji od Modulate, ToxMod, stara się identyfikować w czasie rzeczywistym zagrożenia takie jak mowa nienawiści, radykalizacja i samookaleczenia. Twórcy twierdzą, że ich system działa w trzech etapach: segregacja, analiza i eskalacja. ToxMod słucha wszystkich rozmów głosowych i wskazuje punkty, które wymagają dalszej analizy. Te oznaczone dane są przechowywane na ich serwerach, podczas gdy wszystkie inne będą przetwarzane bezpośrednio na urządzeniu początkowym. 

Activision postanowiło zawalczyć z  toksycznymi zachowaniami w Call of Duty i w związku z tym ogłosiło nową współpracę z Modulate.

Firma twierdzi, że następnie ocenia wszystko, od tonu po emocje, analizując nie tylko „to, co się mówi, ale także sposób, w jaki się to mówi i jak reagują na to inni gracze”. Mamy jednak nadzieję, że zwykły trash talk, stosowany w ramach przedrzeźniania się graczy i żartu, nie będzie przez to kwalifikowany, jako mowa nienawiści. Na koniec system próbuje ostrzec moderatorów o najbardziej toksycznych incydentach i pozostawia im podjęcie działań. Firma twierdzi, że jest to „jedyne obecnie dostępne rozwiązanie do moderacji głosowej”, które chroni „dziesiątki milionów graczy”.

Integracja ToxModa może pomóc w zapobieganiu toksycznym zachowaniom jako całości, współpracując z istniejącymi systemami tekstowymi i raportującymi. „Szczególnie radzenie sobie z zakłócającymi spokój rozmowami głosowymi od dawna stanowi niezwykłe wyzwanie w grach” – powiedział w oświadczeniu dyrektor ds. technologii Activision, Michael Vance. „Dzięki tej współpracy udostępniamy teraz najnowocześniejszą technologię uczenia maszynowego firmy Modulate, którą można skalować w czasie rzeczywistym w celu zapewnienia globalnego poziomu egzekwowania wytycznych. Jest to kluczowy krok w kierunku stworzenia i utrzymania przyjemnego, uczciwego i przyjaznego doświadczenia dla wszystkich graczy". W zeszłym roku Activision zaczęło umożliwiać zespołom moderującym gry wyciszanie graczy używających toksycznego języka w rozmowach głosowych i tekstowych.

ToxMod jest już dostępny w wersji beta w języku angielskim w Ameryce Północnej dla Call of Duty: Modern Warfare II i Call of Duty: Warzone. Zadebiutuje na całym świecie – z wyjątkiem Azji – wraz z premierą Call of Duty: Modern Warfare III 10 listopada.