UE chce zakazać aplikacji rozbierających ludzi. Afera wokół AI Elona Muska przyspiesza zmiany prawa

W Parlament Europejski dojrzewa decyzja, która może wywrócić do góry nogami część rynku sztucznej inteligencji. Europosłowie opowiedzieli się za wprowadzeniem zakazu dla aplikacji wykorzystujących AI do generowania nagich wizerunków prawdziwych osób bez ich zgody. Impulsem do działania stały się kontrowersje wokół narzędzi rozwijanych przez xAI.

Komisje ds. rynku wewnętrznego oraz wolności obywatelskich Parlamentu Europejskiego przyjęły propozycję zmian zdecydowaną większością głosów. 101 europosłów poparło nowe przepisy, przeciw było zaledwie 9. Nowelizacja dotyczy AI Act i zakłada wprowadzenie zakazu dla systemów określanych jako „nudifier”. Chodzi o rozwiązania zdolne do tworzenia lub modyfikowania obrazów w sposób przedstawiający prawdziwe osoby w sytuacjach intymnych.

Nowe przepisy mają objąć platformy, które umożliwiają generowanie takich treści, nawet jeśli robią to na życzenie użytkownika.

Planowany zakaz może stać się jednym z najważniejszych precedensów w globalnej regulacji sztucznej inteligencji. Europa ponownie wyznacza kierunek, który może zostać skopiowany przez inne regiony świata

Grok jako symbol problemu

W centrum debaty znalazł się chatbot Grok rozwijany przez firmę Elona Muska. Narzędzie wywołało falę krytyki po tym, jak okazało się, że potrafi generować realistyczne obrazy o charakterze seksualnym z udziałem prawdziwych osób, również nieletnich. W przeciwieństwie do wielu konkurencyjnych systemów Grok przez długi czas nie stosował restrykcyjnych filtrów blokujących tego typu treści. Firma deklarowała, że odpowiedzialność spoczywa na użytkownikach, a nie na samej platformie.

To podejście spotkało się z ostrą reakcją europejskich regulatorów.

Koniec pobłażania dla platform

Proponowane przepisy oznaczają zmianę filozofii regulacyjnej. Do tej pory odpowiedzialność skupiała się głównie na użytkownikach publikujących nielegalne treści. Nowe podejście przenosi ciężar na twórców i operatorów systemów AI. Unia Europejska chce w ten sposób ograniczyć zjawisko deepfake’ów o charakterze seksualnym oraz materiałów powstających bez zgody osób przedstawionych na obrazach. Regulatorzy podkreślają, że identyfikacja sprawców bywa trudna, a skuteczniejszym rozwiązaniem jest eliminacja narzędzi umożliwiających nadużycia.

Naciski także poza Europą

Problemy prawne wokół rozwiązań xAI nie ograniczają się do Europy. W Stany Zjednoczone pojawiają się inicjatywy legislacyjne, które mogą uderzyć w firmy rozwijające podobne technologie. Jedną z nich jest projekt Take It Down Act, przewidujący wysokie kary finansowe dla platform rozpowszechniających nielegalne treści intymne. Równolegle pojawiają się pozwy sądowe związane z wykorzystaniem AI do tworzenia materiałów o charakterze seksualnym z udziałem osób nieletnich.

AI i pornografia bez zgody pod lupą

Europejscy ustawodawcy wskazują, że rozwój narzędzi AI doprowadził do gwałtownego wzrostu liczby przypadków cyberprzemocy opartej na wizerunku. Szczególne obawy budzi możliwość generowania materiałów z udziałem dzieci. Organizacje zajmujące się prawami cyfrowymi od miesięcy apelują o zaostrzenie przepisów. Argumentują, że obecne regulacje nie nadążają za tempem rozwoju technologii. Nowe przepisy mają wypełnić tę lukę i objąć także mniej znane aplikacje dostępne w internecie.

Co dalej z planami Elona Muska

Dla Elon Musk i jego firmy oznacza to poważne wyzwanie. Jeśli zakaz wejdzie w życie, xAI będzie musiało zmienić sposób działania Groka na rynku europejskim. Brak dostosowania do nowych regulacji może oznaczać kary sięgające nawet 7 procent globalnych przychodów firmy. W praktyce może to wymusić wprowadzenie bardziej rygorystycznych zabezpieczeń. Dla Muska oznacza to konieczność znalezienia kompromisu między wizją otwartej AI a wymaganiami regulatorów.