3 miliony kontrowersyjnych grafik w 11 dni. RODO może uderzyć w X z pełną siłą

Irlandzka Komisja Ochrony Danych (DPC) wszczęła kolejne postępowanie wobec platformy X w związku z doniesieniami o generowaniu przez system Grok niekonsensualnych treści o charakterze seksualnym. Sprawa dotyczy przetwarzania danych osobowych obywateli UE i EOG (w tym osób nieletnich) oraz potencjalnych naruszeń przepisów RODO.

Z ustaleń brytyjskiej organizacji Center for Countering Digital Hate (CCDH), obejmujących okres od 29 grudnia do 9 stycznia, wynika, że w ciągu zaledwie 11 dni na platformie wygenerowano około trzech milionów seksualizowanych obrazów. Szacuje się, że blisko 23 tysiące z nich mogły przedstawiać osoby nieletnie. To dane, które, jeśli się potwierdzą, mogą mieć poważne konsekwencje prawne i finansowe dla operatora serwisu. Kluczowe będzie ustalenie, czy spółka X Internet Unlimited Company (XIUC), formalny podmiot odpowiedzialny za X w Europie, naruszyła fundamentalne obowiązki wynikające z RODO.

Irlandzka Komisja Ochrony Danych (DPC) wszczęła kolejne postępowanie wobec platformy X w związku z ostatnimi działami Groka.

RODO i ryzyko wielomilionowych kar

Zastępca komisarza DPC, Graham Doyle, poinformował, że urząd analizuje zgodność działań XIUC z przepisami o ochronie danych. Jako tzw. wiodący organ nadzorczy dla X w UE/EOG, irlandzki regulator ma kompetencje do prowadzenia szeroko zakrojonego postępowania, którego skutki mogą objąć całą wspólnotę. Warto podkreślić, że w grę wchodzą nie tylko kwestie bezprawnego przetwarzania wizerunku i danych osobowych, ale także ochrona dzieci przed szkodliwymi treściami generowanymi przez AI.

Równolegle: postępowanie KE w sprawie DSA

To nie jedyne problemy X w Europie. W styczniu Komisja Europejska wszczęła dochodzenie pod kątem zgodności platformy z unijnym Aktem o Usługach Cyfrowych (DSA). Regulator sprawdza, czy X właściwie oceniła i ograniczyła ryzyka związane z działaniem Groka, w tym rozpowszechnianie nielegalnych treści generowanych przez AI. Szczególną uwagę ponownie zwrócono na przypadki tworzenia seksualnych wizerunków dzieci, czyli aspekt, który może przesądzić o skali sankcji.

 

Deklaracje a rzeczywistość

W połowie stycznia X zapewniała, że zablokowała możliwość edytowania zdjęć realnych osób w celu nadawania im rozbierania. Doniesienia medialne sugerują jednak, że zabezpieczenia te nie działają skutecznie. Jeden z dziennikarzy wykazał, że Grok nadal potrafi generować jego wizerunek w skąpym ubiorze, a nawet dodawać anatomiczne detale (w tym przypadku genitalia).