Grok generował treści z nieletnimi. Musk ma duży problem

Jedno zgłoszenie anonimowego użytkownika Discorda uruchomiło lawinę zdarzeń, które mogą poważnie uderzyć w xAI i jej system Grok.

Sprawa dotyczy materiałów o charakterze przestępczym generowanych przez sztuczną inteligencję. Śledczy analizują dowody, które mogą stanowić pierwszy potwierdzony przypadek wykorzystania tego narzędzia do tworzenia treści przedstawiających seksualne wykorzystywanie nieletnich. W tle pojawia się także Elon Musk, który jeszcze niedawno publicznie zaprzeczał istnieniu takiego problemu.

Od przecieków do pozwu zbiorowego

Sprawa zaczęła się od wiadomości wysłanej do jednej z ofiar przez anonimowego użytkownika Discorda. Dziewczyna została poinformowana, że jej przerobione zdjęcia krążą w sieci wraz z materiałami dotyczącymi innych nieletnich. Po uzyskaniu dostępu do plików odkryto obrazy i nagrania wygenerowane przez AI, bazujące na zdjęciach z mediów społecznościowych. Materiały były rozpowszechniane na serwerach Discorda, a następnie trafiały na platformy wymiany plików i zamknięte grupy komunikatorów.

Sprawa szybko trafiła do organów ścigania. Analiza urządzeń podejrzanego wykazała wykorzystanie aplikacji zewnętrznej, która korzystała z technologii Grok.

W poniedziałek do sądu w USA wpłynął pozew zbiorowy. Trzy nieletnie dziewczyny i ich opiekunowie oskarżyli xAI o świadome stworzenie narzędzia zdolnego do generowania takich treści oraz czerpanie z tego korzyści finansowych.

Rozstrzygnięcie może mieć wpływ na cały rynek AI, szczególnie w kontekście odpowiedzialności za generowane treści i kontroli nad narzędziami udostępnianymi użytkownikom.

Grok i kontrowersje wokół generowania treści

Problemy wokół Groka narastały od miesięcy. W czasie wcześniejszego skandalu badacze wskazywali, że system generował ogromne ilości treści o charakterze seksualnym. Szacunki mówiły o milionach obrazów, w tym tysiącach przedstawiających nieletnich. Część tych materiałów powstawała w narzędziu Grok Imagine, które działało jako osobna aplikacja. Testy przeprowadzane przez badaczy wykazały znaczący odsetek niebezpiecznych treści w wygenerowanych wynikach.

Mimo tych doniesień Elon Musk publicznie podważał ustalenia i deklarował brak dowodów na generowanie takich materiałów przez system.

Policja łączy Groka z siecią dystrybucji

Śledczy ustalili, że podejrzany wykorzystywał Groka do modyfikowania zdjęć ofiar. Następnie materiały trafiały do zamkniętych grup, gdzie były wymieniane między użytkownikami.

W dokumentach sądowych pojawia się także wątek platform takich jak Discord i komunikatory używane do dystrybucji plików. Według ustaleń, materiały były oznaczane danymi pozwalającymi na identyfikację ofiar.

To podniosło poziom zagrożenia i wywołało obawy o bezpieczeństwo nieletnich poza internetem.

Zarzuty wobec xAI i modelu biznesowego

Pozew zawiera poważne oskarżenia pod adresem xAI. Według strony powodowej firma nie tylko stworzyła narzędzie zdolne do generowania nielegalnych treści, ale także umożliwiła jego wykorzystanie przez podmioty trzecie. Kluczowy element sprawy dotyczy licencjonowania technologii. Z dokumentów wynika, że zewnętrzne aplikacje mogły korzystać z infrastruktury xAI do generowania i przetwarzania treści.

Prawnicy twierdzą, że takie rozwiązanie pozwalało firmie czerpać zyski przy jednoczesnym ograniczeniu odpowiedzialności za sposób wykorzystania systemu.

Ofiary mówią o realnych konsekwencjach

Skala szkód opisywana w pozwie wykracza poza przestrzeń cyfrową. Poszkodowane osoby wskazują na poważne skutki psychiczne i społeczne. Pojawiają się obawy związane z edukacją, relacjami społecznymi oraz bezpieczeństwem osobistym. W dokumentach sądowych opisano przypadki, w których ofiary rozpoznawały siebie i znajomych na wygenerowanych materiałach. Według pełnomocników, dane osobowe i nazwy szkół mogły zostać powiązane z treściami krążącymi w sieci.

Sąd zdecyduje o przyszłości Groka

Sprawa może stać się jednym z najważniejszych testów dla branży sztucznej inteligencji. Sąd ma ustalić, czy xAI miało świadomość skali problemu oraz czy ponosi odpowiedzialność za treści generowane przy użyciu jej technologii. Na razie firma nie przedstawiła oficjalnego stanowiska wobec najnowszych zarzutów. Wcześniej wskazywała na użytkowników jako źródło nadużyć i zapowiadała działania wobec osób łamiących zasady.