Facebook chce być cenzorem oraz policjantem w metaverse w obronie... kobiet i mniejszości

Dyrektor Facebooka stojący na czele działań firmy w zakresie wirtualnej rzeczywistości ma nadzieję stworzyć wirtualne światy z "prawie Disneyowskim poziomem bezpieczeństwa", ale przyznał również, że umiarkowanie "na jakąkolwiek znaczącą skalę jest prawie niemożliwe".

Meta, firma macierzysta Facebooka, pracuje nad tworzeniem światów wirtualnej rzeczywistości, w których ludzie będą się spotykać, pracować, grać, a nawet robić zakupy, korzystając z własnych awatarów 3D. W notatce, uzyskanej przez Financial Times, Andrew Bosworth, który będzie kierował projektem Metaverse o wartości 10 miliardów dolarów, stwierdził, że rzeczywistość wirtualna może być potencjalnie "toksycznym środowiskiem", zwłaszcza dla mniejszości i kobiet. W notatce zauważono, że cenzura i moderacja treści i zachowań może być dużym wyzwaniem, zwłaszcza biorąc pod uwagę słabe wyniki firmy w zwalczaniu "szkodliwych" treści.

Facebook uważa, że rzeczywistość wirtualna może być toksyczna, zwłaszcza dla mniejszości i kobiet i już zapowiada cenzurę. Specjaliści zastanawiają się, jak cenzorem tak skomplikowanego systemu może być ktoś, kto nie potrafi zapanować nad istniejącą platformą.

"Wpływ psychologiczny na ludzi jest znacznie większy" – powiedział Kavya Pearlman, dyrektor generalny XR Safety Initiative, organizacji non-profit zajmującej się opracowywaniem standardów bezpieczeństwa dla rzeczywistości wirtualnej, rozszerzonej i mieszanej. Wyjaśniła dalej, że użytkownicy zapamiętają to, co wydarzyło się w metaverse, tak jak miało to miejsce w rzeczywistości. Bosworth przedstawił plan, który firma może wykorzystać do rozwiązania tego problemu, ale eksperci zauważyli, że zachowanie policji w środowisku wirtualnej rzeczywistości wymaga wielu zasobów i może nawet nie być możliwe.

"Facebook nie potrafi moderować nawet istniejącej platformy. Jak mogą moderować taką, która jest o wiele bardziej złożona i dynamiczna?" - powiedział John Egan, dyrektor generalny grupy prognostycznej L'Atelier BNP Paribas. Prawnik ds. technologii Brittan Heller, powiedział, że kontrolowanie obrazów, wideo i tekstu różni się od kontrolowania wirtualnego świata. "W 3D nie chodzi o to, że próbujesz rządzić, ale o zachowanie" – powiedziała. "Będą musieli zbudować zupełnie nowy rodzaj systemu moderacji".

Zgodnie z filmem poświęconym bezpieczeństwu opublikowanym przez stworzoną przez Facebooka grę społecznościową Horizon Worlds w wirtualnej rzeczywistości, moderacja w wirtualnym świecie może polegać na ciągłym nagrywaniu interakcji i przechowywaniu ich w zestawach VR użytkowników. W przypadku zgłoszenia użytkownika, jego zarejestrowane interakcje są wysyłane do weryfikatorów w celu oceny. W notatce Bosworth zasugerował, że Meta powinna polegać na istniejących wytycznych społeczności Facebooka. Dodatkowo, ponieważ użytkownicy mieliby jedno konto w Meta, mogą zostać zablokowani na wszystkich platformach, jeśli naruszą wytyczne. "Teoria tutaj musi polegać na tym, że możemy przenieść kulturę tak, abyśmy w dłuższej perspektywie nie musieli zbyt często podejmować tych działań egzekucyjnych" – dodał.

Facebook obecnie polega na sztucznej inteligencji w moderowaniu treści. Sztuczna inteligencja prawdopodobnie posłuży też do monitorowania wirtualnych światów. Rzecznik powiedział Financial Times, że "bada, jak najlepiej wykorzystać sztuczną inteligencję" w Horizon Worlds. Rzecznik powiedział, że firma zastanawia się, jak najlepiej zapewnić ludziom "bezpieczeństwo" w metawersie. "To nie będzie zadanie tylko jednej firmy. Będzie to wymagało współpracy w całej branży oraz z ekspertami, rządami i organami regulacyjnymi, aby to osiągnąć" – powiedziała firma.