Twitch wykorzysta maszynowe uczenie do wykrywania osób omijających bany

Twitch kontynuuje wysiłki na rzecz zmniejszenia nękania dzięki nowemu narzędziu, które wykorzystuje uczenie maszynowe do wykrywania osób, mogących próbować obejść bany. To najnowszy sposób firmy do walki ze zjawiskiem hate raids, w których czaty streamerów są opanowane przez trolle wysyłające nienawistne wiadomości.

Nowe narzędzie o nazwie Suspicious User Detection może identyfikować użytkowników jako „prawdopodobne” lub „możliwe” osoby, które uniknęły banów na kanale streamera. Model uczenia maszynowego, na którym opiera się narzędzie, identyfikuje potencjalnych oszustów, oceniając takie rzeczy, jak ich zachowanie i cechy ich kont, a następnie porównuje te informacje z kontami, które zostały zablokowane na kanale streamera.

Suspicious User Detection może identyfikować użytkowników jako „prawdopodobne” lub „możliwe” osoby, które uniknęły banów na kanale streamera.

Wiadomości od „prawdopodobnych” oszustów nie będą wysyłane na czat, ale streamerzy i ich moderatorzy mogą je zobaczyć i wybrać monitorowanie takiej osoby, która prawdopodobnie unika banów (co dodaje tego użytkownika do listy i umieszcza wiadomość obok nazwy użytkownika z informacją o monitorowaniu) lub ją zablokować. Wiadomości „możliwych” oszustów pojawią się na czacie, ale streamerzy/moderatorzy mogą je zbanować.

Twitch twierdzi, że domyślnie włączy wykrywanie podejrzanych użytkowników, ale streamerzy mogą dostosować lub wyłączyć narzędzie, jeśli chcą. Streamerzy i moderatorzy mogą również ręcznie wybrać monitorowanie użytkowników, którzy ich zdaniem są podejrzani.

„To narzędzie zostało w dużej mierze zainspirowane opiniami społeczności dotyczącymi potrzeby lepszych sposobów na powstrzymanie osób omijających zakazy” – powiedziała Alison Huffman, dyrektor Twitcha ds. produktów na rzecz zdrowia społeczności, w oświadczeniu dla The Verge. „Kiedy rozmawialiśmy z moderatorami o ich problemach, słyszeliśmy, że może być trudno odróżnić, czy użytkownik, który rozmawiał o czymś, co narusza normy jego kanału, był szkodliwym, powtarzającym się napastnikiem, czy tylko nowszym widzem, który nie zna jeszcze zasad tego kanału. W związku z tym zaprojektowaliśmy to narzędzie, aby zapewnić moderatorom i twórcom więcej informacji na temat potencjalnych osób unikających banów, aby mogli podejmować bardziej efektywne i świadome decyzje na swoim kanale”.

Wykrywanie podejrzanych użytkowników wydaje się mieć wpływ na uciszenie osób szerzących nienawiść, zwłaszcza jeśli jest używane w połączeniu z niedawno wprowadzonymi narzędziami, które umożliwiają streamerowi wymaganie weryfikacji telefonicznej lub e-mailowej dla kont uczestniczących w czacie. Niemniej, jak skuteczne będzie faktycznie wykrywanie podejrzanych użytkowników lub czy osoby omijające bany będą w stanie znaleźć sposoby na obejście tego rozwiązania, przekonamy się dopiero za jakiś czas.

Zobacz także:

• Nokia 105 odnosi sukces w segmencie klasycznych telefonów
• GeForce RTX 3050 - co już wiemy o specyfikacji i wydajności karty graficznej NVIDII?
• Scalper, który sprzedawał PlayStation 5 i Nintendo Switch aresztowany za naciąganie graczy