YouTube zaczęło zalewać porno. Użytkownicy odkrywają lukę w moderacji

YouTube znów ma problem. Na platformie znajdują się zdjęcia profilowe i materiały o charakterze pornograficznym, które można bez trudu znaleźć za pomocą wyszukiwarki platformy. N problema sprawę zwrócił uwagę użytkownik Reddita posługujący się pseudonimem coreynj, który opisał mechanizm pozwalający na wyświetlanie takich obrazów po wpisaniu określonych sekwencji znak problemów.

Najbardziej niepokojący element sprawy polega na tym, że obrazy te są widoczne nie tylko dla zalogowanych użytkowników, lecz także dla osób przeglądających YouTube bez konta. Otwiera to dostęp do treści pornograficznych również dla nieletnich, bez jakichkolwiek barier wiekowych. Wystarczy wpisać  hasła takie jak „XXXX” lub „XXXX,XX,XXX,X,XXXXX,XXXXXX,XXXXXXXXX,XXXXXXXXXX”,  „mmd r18” czy „see through try on haul”.

Zdjęcia profilowe zamiast filmów

Kanały, których dotyczy problem, często nie publikują klasycznych materiałów wideo o charakterze pornograficznym. Zamiast tego wykorzystują zdjęcia profilowe, na których umieszczane są w pełni jawne treści NSFW. Te grafiki pojawiają się w wynikach wyszukiwania oraz w komentarzach, pozostając poza skuteczną kontrolą systemów moderacyjnych.

Część kont idzie o krok dalej, tworząc playlisty zawierające krótkie klipy o wyraźnie erotycznym charakterze. Materiały te bywają przeplatane neutralnymi filmami, co wygląda na próbę zmylenia algorytmów odpowiedzialnych za wykrywanie naruszeń regulaminu. Najpopularniejsze klipy notują miliony odsłon, a same kanały potrafią zgromadzić setki tysięcy subskrybentów.

Sieć powiązanych kont i podejrzenia automatyzacji

Analiza profili ujawnia, że wiele z nich wzajemnie się promuje, linkując do tych samych playlist i kanałów. Taki schemat sugeruje wykorzystanie botów lub zorganizowanych farm kont, których celem jest masowe rozpowszechnianie treści NSFW w ramach platformy kojarzonej z materiałami ogólnodostępnymi i rodzinnymi.

Użytkownicy zwracają także uwagę na możliwość odnalezienia pełnych filmów pornograficznych oraz hentai przy użyciu specyficznych haseł wyszukiwania. Wskazuje to na szerszy problem, który nie ogranicza się wyłącznie do zdjęć profilowych.

YouTube między zabezpieczeniami a rzeczywistością

Sprawa wyszła na jaw w momencie, gdy YouTube testuje nową funkcję automatycznego rozmywania miniatur w materiałach o charakterze dla dorosłych. Rozwiązanie to ma ograniczyć przypadkowy kontakt z treściami NSFW, jednak obecna luka pokazuje, że mechanizmy ochronne nie obejmują wszystkich elementów platformy.

Zdjęcia profilowe pozostają szczególnie wrażliwym obszarem, ponieważ pojawiają się w wielu kontekstach i nie podlegają takim samym filtrom jak miniatury filmów. Brak reakcji w tym segmencie podważa skuteczność deklarowanych działań na rzecz bezpieczeństwa użytkowników.

Cisza ze strony Google

Redakcje technologiczne zwróciły się do Google z prośbą o komentarz w sprawie opisanych praktyk. Na ten moment firma nie przedstawiła oficjalnego stanowiska ani informacji o planowanych zmianach w moderacji zdjęć profilowych. Do czasu wyjaśnienia sytuacji problem pozostaje dostępny dla każdego użytkownika, niezależnie od wieku i statusu logowania.