Koniec trollowania i mowy nienawiści? A może początek cenzury? TrollWall AI na straży

Debata na temat walki z mową nienawiści czy trollowaniem zawsze okraszona jest terminem "cenzura". Bo też nie ma tak naprawdę z góry ustalonej granicy, przy której uwidacznia się dane zjawisko. Ten problem ma rozwiązać TrollWall AI, czyli narzędzie bazujące na sztucznej inteligencji słowackiego start-upu.

Słowo "cenzura" pada tak często, że nie unikamy go w żadnym aspekcie życia codziennego. Równie często mamy jednak do czynienia z typowym trollingiem czy po prostu mową nienawiści w mediach społecznościowych, a szczególnie przy tematach polityczno-ekonomicznych lub innych, wywierających skrajnie różne emocje. Jest to problem, gdyż nacechowany negatywnie komentarz danego użytkownika może być odbierany przez niego jako krytyka, a przez osobę, do której skierowano taki wpis - mowa nienawiści. Jak zatem to rozwiązać? Słowacki startup ma na to radę.

TrollWall AI na straży. Co potrafi?

TrollWall AI to oprogramowanie bazujące na sztucznej inteligencji, które w czasie rzeczywistym wykrywa wszelkie objawy trollingu czy mowy nienawiści. Automatycznie blokuje przy tym aktywność na profilach społecznościowych, a do działania wykorzystuje algorytmy wykrywania toksycznych komentarzy na podstawie ich kontekstu językowego i użytych emotikonek.

Według twórcy, TrollWall AI potrafi zidentyfikować komentarze obraźliwe, ksenofobiczne, seksistowskie czy inne, zawierające na przykład jakąś formę przemocy. Narzędzie oferuje dodatkowo opcje dla moderatorów, dostosowujące algorytmy, dodające własne słowa kluczowe, a całość działa na zasadzie ukrywania komentarzy tak, by nie były one widoczne dla innych użytkowników. Narzędzie ma zatem w teorii ułatwić pracę osób zajmujących się moderacją kanałów mediowych w social mediach.

Według producenta, oprogramowanie TrollWall AI jest już z powodzeniem używane w kilku krajach - na przykład w Czechach i na Słowacji. W Czechach narzędzie wykorzystane zostało do ochrony kampanii wyborczej prezydenta Petra Pavla i według dostarczonych informacji, pozwoliło zmniejszyć liczbę toksycznych komentarzy na profilu tejże osoby o 98%.

Cenzura? A komu to potrzebne

TrollWall AI wchodzi właśnie do Polski, ale jak wspomnieliśmy na początku tego artykułu, pojawia się obawa o cenzurę. Nie znamy prawdziwej skuteczności tego rozwiązania, ponieważ podane liczby odnoszące się do "ukrytych komentarzy" nie mówią o tym, czy dany wpis faktycznie powinien być ukryty z powodu trollowania czy hejtu, czy może mówił o niewygodnej prawdzie, jaką starano się wówczas zatuszować. Miejmy nadzieję jednak, że narzędzie, którego algorytmy można modyfikować nie stanie na drodze użytkowników chcących wyrazić swoje zdanie pod teorią lub wpisem osoby, której dany pogląd może się po prostu nie podobać. Będziemy się temu zagadnieniu starannie przyglądać. Tymczasem powiedzcie, co wy o tym sądzicie.