xAI pozywa własnego użytkownika. Grok był wykorzystywany do tworzenia zakazanych zdjęć

Firma xAI należąca do Elona Muska rozpoczęła bezprecedensową batalię prawną przeciwko jednemu ze swoich użytkowników. Producent modelu Grok pozwał mieszkańca Karoliny Południowej, któremu zarzuca wykorzystanie narzędzia sztucznej inteligencji do tworzenia seksualnych materiałów z udziałem osób nieletnich. To pierwszy znany przypadek, w którym twórca dużego modelu AI skierował sprawę przeciwko własnemu użytkownikowi za sposób wykorzystania technologii. 

Pozew został złożony w federalnym sądzie w Teksasie przeciwko Terry’emu Harwoodowi. Firma twierdzi, że mężczyzna wielokrotnie naruszał zasady korzystania z platformy, zakładając wiele kont oraz wykorzystując fałszywe dane.

Według dokumentów sądowych Harwood miał przesyłać do Groka zdjęcia przedstawiające prawdziwe osoby, a następnie wydawać polecenia mające zmienić je w materiały o charakterze seksualnym. Wśród przesyłanych obrazów miały znajdować się również fotografie osób nieletnich.

xAI przekonuje, że system wielokrotnie odmawiał realizacji takich poleceń. Firma twierdzi jednak, że użytkownik próbował modyfikować swoje zapytania i szukał sposobów na obejście zabezpieczeń moderacyjnych.

„Oskarżony założył wiele kont xAI, używając fałszywych tożsamości. Pomimo wyraźnej zgody na przestrzeganie Warunków korzystania z usługi xAI i Zasad dozwolonego użytkowania, oskarżony stworzył wprowadzające w błąd komunikaty, aby ominąć wbudowane zabezpieczenia Grok, a następnie nadużył tego narzędzia, aby przekształcić zdjęcia o charakterze nieseksualnym w obrazy o charakterze seksualnym bez wiedzy i zgody osób fotografowanych” – czytamy w 12-stronicowym pozwie. 

Pierwszy pozew firmy AI przeciwko własnemu użytkownikowi

Sprawa wyróżnia się na tle dotychczasowych konfliktów wokół sztucznej inteligencji. Do tej pory firmy technologiczne najczęściej odpowiadały na zarzuty dotyczące generatywnej AI poprzez poprawianie zabezpieczeń, zmiany regulaminów lub współpracę z organami ścigania.

Tym razem xAI zdecydowała się na drogę sądową. Firma domaga się odszkodowania, choć nie wskazała konkretnej kwoty, oraz stałego zakazu korzystania przez Harwooda z platformy.

Pozew pojawia się w momencie rosnącej debaty dotyczącej możliwości tworzenia szkodliwych treści przez modele generatywne. Narzędzia AI potrafią coraz lepiej generować obrazy i materiały wideo, a eksperci od dawna ostrzegają przed wykorzystaniem ich do produkcji fałszywych treści przedstawiających prawdziwe osoby.

„Przegląd kont xAI pozwanego wykazał ponadto, że pozwany wielokrotnie wysyłał Grokowi prośby o zmianę takich obrazów w celu seksualizacji ich postaci, na co Grok odpowiadał odmową wykonania tych poleceń, argumentując, że taki materiał narusza zasady moderowania treści Groka” – dodano w pozwie. „W odpowiedzi oskarżony wielokrotnie przesyłał kolejne monity, z poprawkami, próbując w ten sposób obejść działania moderacyjne Groka”.

Grok pod lupą regulatorów na całym świecie

Model Grok firmy xAI od miesięcy mierzy się z krytyką dotyczącą sposobu działania zabezpieczeń. Platforma była analizowana przez instytucje regulacyjne w Stanach Zjednoczonych oraz Europie, a część państw zdecydowała się ograniczyć dostęp do wybranych funkcji związanych z generowaniem treści seksualnych.

Wcześniej Elon Musk odpierał zarzuty dotyczące tworzenia przez Groka materiałów przedstawiających nagość osób nieletnich. Twórca xAI podkreślał, że nie zna przypadków takich treści wygenerowanych przez system.

Firma w pozwie zaznacza jednak, że aktywnie usuwa konta łamiące zasady i zgłasza podejrzane materiały odpowiednim organizacjom zajmującym się ochroną dzieci.

Tysiące zablokowanych kont i raportów o nadużyciach

xAI przekazała, że w ramach walki z nadużyciami zawiesiła ponad 52 tysiące kont oraz skierowała dziesiątki tysięcy zgłoszeń dotyczących podejrzanych materiałów do Krajowego Centrum ds. Zaginionych i Wykorzystywanych Dzieci. Firma twierdzi również, że zgłoszenia doprowadziły do licznych działań organów ścigania. 

Wojna o odpowiedzialność za treści generowane przez AI dopiero się zaczyna

Spór pomiędzy xAI a użytkownikiem Groka może mieć znaczenie dla całej branży sztucznej inteligencji. Firmy rozwijające modele generatywne muszą mierzyć się z pytaniem, gdzie kończy się odpowiedzialność twórcy technologii, a zaczyna odpowiedzialność osoby korzystającej z narzędzia.

Na początku tego roku Musk odrzucił oskarżenia, jakoby Grok tworzył generowane przez sztuczną inteligencję obrazy dzieci o charakterze seksualnym, w szczególności zdjęcia nagości. „Nie znam żadnych nagich zdjęć nieletnich generowanych przez Grok. Dosłownie żadnych” – napisał Musk w poście na X w styczniu.