Bluesky zalany spamem i nielegalnymi treściami. Moderacja ledwo sobie radzi

W piątek Bluesky opublikowało swój raport moderacyjny za 2024 rok, przedstawiając pełny obraz wyzwań, jakie stanęły przed zespołem Trust & Safety w miarę dynamicznego rozwoju platformy.

Z raportu wynika, że platforma zanotowała spektakularny wzrost liczby użytkowników oraz związane z tym napięcia związane z moderacją treści, szczególnie w kontekście nękania, trollingu i nietolerancji. Problemy te stały się na tyle poważne, że w ciągu roku doprowadziły do protestów użytkowników, kwestionujących niektóre decyzje moderacyjne.

Gwałtowny rozwój platformy i rosnące obciążenie zespołu

W 2024 roku Bluesky odnotowało znaczący wzrost popularności, przyciągając ponad 23 miliony nowych użytkowników. Dynamiczny rozwój był odpowiedzią na zmiany na platformie X, które skłoniły wielu użytkowników do migracji. Kluczowym czynnikiem okazały się decyzje właściciela X, Elona Muska, dotyczące poluzowania moderacji oraz wykorzystania danych użytkowników do trenowania sztucznej inteligencji. Ponadto blokada X w Brazylii we wrześniu również przyczyniła się do wzrostu liczby użytkowników Bluesky.

W odpowiedzi na tak szybki rozwój, Bluesky podjęło szeroko zakrojone działania mające na celu wzmocnienie swoich struktur moderacyjnych. Zespół moderatorów powiększono do 100 osób, a firma nadal aktywnie prowadzi rekrutacje. Jednocześnie wprowadzono program wsparcia psychologicznego dla pracowników, z uwagi na trudny charakter ich pracy, która wymaga codziennego kontaktu z drastycznymi treściami. Bluesky wskazuje, że w przyszłości planuje wykorzystać sztuczną inteligencję do automatyzacji tego procesu.

Eksplozja zgłoszeń moderacyjnych

W 2024 roku liczba zgłoszeń moderacyjnych wzrosła aż 17-krotnie w porównaniu do roku 2023. Łącznie użytkownicy zgłosili 6,48 miliona przypadków naruszeń, podczas gdy rok wcześniej było ich jedynie 358 tysięcy. Największe nasilenie raportów nastąpiło w sierpniu, kiedy to użytkownicy z Brazylii masowo napływali na platformę, zgłaszając aż 50 tysięcy przypadków dziennie w szczytowym momencie. Aby sprostać temu wyzwaniu, Bluesky zatrudniło dodatkowych moderatorów, korzystając również z usług zewnętrznych dostawców.

Firma zaczęła automatyzować procesy związane z niektórymi kategoriami zgłoszeń, takimi jak spam, co pozwoliło na skrócenie czasu reakcji na zgłoszenia. Dla kont o wysokim priorytecie czas obsługi wynosił zaledwie kilka sekund, w porównaniu do wcześniejszych 40 minut. Automatyzacja, choć skuteczna, czasami prowadziła do błędnych decyzji, które następnie musieli korygować moderatorzy.

Z raportu wynika, że w 2024 roku 4,57% aktywnych użytkowników Bluesky (1,19 miliona osób) złożyło przynajmniej jedno zgłoszenie moderacyjne. Większość zgłoszeń dotyczyła pojedynczych postów (3,5 miliona przypadków), ale nie brakowało także raportów związanych z profilami użytkowników, wiadomościami prywatnymi czy kanałami tematycznymi.

Najczęściej zgłaszane problemy obejmowały trolling, nękanie oraz nietolerancję. Inne kategorie zgłoszeń obejmowały:

• Treści wprowadzające w błąd (1,20 miliona przypadków) – takie jak podszywanie się, dezinformacja lub fałszywe deklaracje tożsamości.

• Spam (1,40 miliona przypadków) – nadmierna liczba wzmianek i powtarzalnych treści.

• Niechciane treści seksualne (630 tysięcy przypadków).

• Nielegalne treści (933 tysiące przypadków).

Bluesky wprowadziło także nowy system etykietowania treści, pozwalając użytkownikom i moderatorom na oznaczanie postów oraz profili. Najczęściej stosowane etykiety to „seksualna”, „nietolerancyjny” oraz „spam”.

Odwołania i usunięcia kont

W 2024 roku użytkownicy złożyli łącznie 205 tysięcy odwołań od decyzji moderacyjnych. W tym czasie usunięto 66308 kont przez moderatorów oraz 35842 konta w ramach automatycznego systemu wykrywania naruszeń. Firma otrzymała również 238 wniosków od organów ścigania, rządów i kancelarii prawnych, z czego odpowiedziała na 182 z nich i zastosowała się do 146. Większość tych wniosków pochodziła z Niemiec, USA, Brazylii i Japonii.

Bluesky w swoim raporcie podkreśliło zaangażowanie w zwalczanie treści związanych z wykorzystywaniem dzieci. Firma przesłała 1154 potwierdzone raporty CSAM do National Center for Missing & Exploited Children (NCMEC). Raport zawiera również szczegóły dotyczące roszczeń związanych z prawami autorskimi oraz znakami towarowymi, które były rozpatrywane przez Bluesky w ciągu roku.