X potwierdza, że ​​zablokowało wyszukiwania Taylor Swift. Wszystko przez deepfaki

Platforma X potwierdziła, że uniemożliwia użytkownikom wyszukiwanie Taylor Swift po tym, jak w tym tygodniu na platformie zaczęły krążyć pornograficzne deepfake'i tej artystki. Odwiedzający witrynę zaczęli zauważać w sobotę, że niektóre wyszukiwania zawierające imię i nazwisko Swift zwracały jedynie komunikat o błędzie. 

W oświadczeniu dla „Wall Street Journal” z sobotniego wieczoru Joe Benarroch, dyrektor operacyjny X, powiedział: „To działanie tymczasowe i podjęte z dużą ostrożnością, ponieważ w tej kwestii bezpieczeństwo traktujemy priorytetowo”. Ten krok następuje kilka dni po tym, jak pierwsi użytkownicy zaczęli zwracać uwagę na ten problem. 

Platforma X potwierdziła, że uniemożliwia użytkownikom wyszukiwanie Taylor Swift po tym, jak w tym tygodniu na platformie zaczęły krążyć pornograficzne deepfake'i tej artystki.

Podejście X do tej kwestii od początku spotkało się z krytyką, w związku ze zbyt powolną i powściągliwą reakcją na rozprzestrzenianie się obrazów o charakterze jednoznacznie seksualnym bez zgodny artystki. Po tym, jak w środę zdjęcia stały się viralowe, fani Swift wzięli sprawy w swoje ręce, aby ograniczyć ich widoczność i usunąć je, masowo zgłaszając konta, które udostępniły zdjęcia i zalewając hashtagi związane z piosenkarką pozytywnymi treściami. Wiele kont naruszających zasady zostało później zawieszonych, ale niektóre z nich w ostatnim czasie wyświetlono miliony razy. W czwartek The Verge podał, że jeden post miał ponad 45 milionów odsłon.

W oświadczeniu opublikowanym później tego samego dnia na swojej platformie X stwierdziło: „Publikowanie zdjęć przedstawiających nagość bez zgody jest surowo zabronione w serwisie X i posiadamy politykę zerowej tolerancji wobec takich treści. Nasze zespoły aktywnie usuwają wszystkie zidentyfikowane obrazy i podejmują odpowiednie działania wobec kont odpowiedzialnych za ich publikację. Uważnie monitorujemy sytuację, aby mieć pewność, że zajmiemy się wszelkimi dalszymi naruszeniami, a treści zostaną usunięte. Dokładamy wszelkich starań, aby zapewnić wszystkim użytkownikom bezpieczne i pełne szacunku środowisko”.

Jednak po kilku dniach nadal można było znaleźć te obrazy. 404Media ustaliło, że prawdopodobne zdjęcia pochodzą od grupy na Telegramie, znanej z tworzenia obrazów kobiet generowanych przez sztuczną inteligencję przy użyciu bezpłatnych narzędzi, w tym Microsoft Designer. W piątkowym wywiadzie dla Lestera Holta z NBC News dyrektor generalny Microsoft, Satya Nadella, powiedział, że problem ten podkreśla odpowiedzialność firmy, wskazując na „bariery, które muszą zostać postawione wokół technologii, aby produkowane były bezpieczniejsze treści”. Szef giganta z Redmond powtórzył, że wciąż „jest wiele do zrobienia i wiele się robi”, ale zauważył też, że firma musi „działać szybko”.