WSJ: Instagram pomaga łączyć i promować sieć kont pedofilów. Meta reaguje i tworzy grupę zadaniową

Według raportu opublikowanego przez Wall Street Journal oraz przeprowadzonego dochodzenia przez naukowców z Uniwersytetu Stanforda i Uniwersytetu Massachusetts w Amherst, odkryto, że na popularnej platformie społecznościowej Instagram, osoby zainteresowane pornografią dziecięcą były kierowane do dostawców tego rodzaju treści poprzez system poleceń. Raport wskazuje również, że niektóre konta na Instagramie rzekomo były prowadzone przez same dzieci, które używały jawnie seksualnych zwrotów, zawierających wulgarne słowa.

Według raportu Stanford Internet Observatory, kilku sprzedawców na Instagramie umożliwiało użytkownikom zamawianie niestosownych treści przedstawiających dzieci w różnym wieku uczestniczące w aktach seksualnych. Niektórzy z serwujących nielegalne treści udostępniali nawet „menu” filmów wideo, które przedstawiały krzywdzące dzieci oraz „zdjęcia nieletnich wykonujących czynności seksualne ze zwierzętami”. Zaskakująco, badacze odkryli, że sprzedawcy nawet umożliwiali użytkownikom „spotkanie się” z przedstawionymi dziećmi w zamian za odpowiednią opłatę. Firma macierzysta Instagrama, Meta, poinformowała, że tworzy wewnętrzną grupę zadaniową, która zajmie się tym problemem i jednocześnie przyznaje, że popełniła błędy w egzekwowaniu zasad naruszających jej zasady.

System poleceń Instagrama pozwalał łatwo dotrzeć do treści pedofilskich i zoofilskich kierował klientów do sprzedawców. Niektóre konta prowadziły same dzieci. Meta powołała grupę zadaniową w związku z problemem, a liczba kont związanych z pedofilią sięga milionów.

Badacze ze Stanford przeprowadzili eksperyment, w ramach którego stworzyli testowe konta na Instagramie, które zawierały terminy sugerujące zaangażowanie w wykorzystywanie seksualne dzieci. Natychmiast zostali skierowani przez platformę do rzekomych sprzedawców i kupujących treści seksualnych dotyczących dzieci, a także do kont zawierających linki do zewnętrznych witryn handlowych. Inne konta w sieci gromadziły memy promujące pedofilię lub dyskutowały o dostępie do dzieci. Dodatkowo, naukowcy użyli hashtagów związanych z  seksem nieletnich, takich jak #pedowhore i #preteensex, aby znaleźć 405 sprzedawców materiałów seksualnych, które określili jako "wytworzone przez siebie" lub kont prowadzonych przez same dzieci, z których niektóre twierdziły, że mają zaledwie 12 lat.

„Problem Instagrama sprowadza się do funkcji odkrywania treści, sposobu, w jaki tematy są rekomendowane oraz tego, jak bardzo platforma opiera się na wyszukiwaniu i linkach między kontami” – powiedział David Thiel, główny technolog w Stanford's Internet Observatory.  W wielu przypadkach Instagram umożliwiał użytkownikom wyszukiwanie terminów, o których algorytmy wiedziały, że mogą być powiązane z nielegalnymi  materiałami. W takich przypadkach pojawiał się wyskakujący ekran ostrzegający użytkowników, że „te wyniki mogą zawierać obrazy przedstawiające wykorzystywanie seksualne dzieci” oraz informujący, że produkcja i konsumpcja takich materiałów powoduje „wyjątkowe szkody” dla dzieci. Ale ekran oferował użytkownikom dwie możliwości: „Pobierz zasoby” lub „Mimo to zobacz wyniki”. Instagram twierdzi, że teraz usunął opcję, aby zobaczyć wyniki, ale odmówił podania, dlaczego w ogóle była ona dostępna. Poza tym, pomimo zapewnień, opcja ta jest wciąż widoczna.

Obecni i byli pracownicy Meta, którzy pracowali nad inicjatywami Instagrama dotyczącymi bezpieczeństwa dzieci, szacują teraz, że liczba kont, które istnieją wyłącznie w celu śledzenia sprzedawców pornografii dziecięcej, sięga setek tysięcy, jeśli nie milionów.