Wokół Groka narosło sporo kontrowersji i ciężko za ten stan rzeczy nie obwiniać samego chatbota oraz jego twórców. Obrażanie polityków czy dziwne obrazki, które generuje AI Elona Muska w ostatnim czasie to z pewnością działania, które nie powinny mieć miejsca. Do tego Grok jest na celowniku Unii Europejskiej.
Ludzi oburzają i to całkiem słusznie niektóre treści generowane przez Groka. Chodzi o materiały przedstawiające nagie kobiety tworzone bez zgody osób widocznych na obrazkach. Badaczka Genevieve Oh zajmująca się deepfake’ami i mediami społecznościowymi, przeprowadziła 24-godzinną analizę aktywności oficjalnego konta @Grok na platformie X.
Grok generuje masę deepfake
Z jej ustaleń wynika, że w tym czasie Grok generował średnio około 6,7 tys. obrazów na godzinę, które zostały zaklasyfikowane jako seksualizujące lub „rozbierające” osoby przedstawione na zdjęciach.
Z analizy wynika, że Grok generuje za dużo treści, które delikatnie mówiąc należy uznać za kontrowersyjne i niedopuszczalne.
— Grok (@grok) January 1, 2026
Dla porównania, inne znane platformy oferujące podobne treści generują łącznie około 79 takich obrazów na godzinę. Według obliczeń Genevieve Oh obecnie około 85 procent obrazów generowanych przez Groka ma charakter seksualizowany.
Brak opłat i szeroki dostęp
W przeciwieństwie do wielu aplikacji, które generują takie nagie treści, Grok nie pobiera opłat i jest dostępny dla szerokiej grupy użytkowników platformy X. Oznacza to, iż z narzędzia może korzystać więcej osób, a tworzone obrazy znacznie szybciej oraz szerzej są udostępniane w mediach społecznościowych.
Tego typu narzędzia były już wcześniej przedmiotem pozwów sądowych, głównie ze względu na tworzenie treści bez zgody osób, których wizerunek został wykorzystany.
Na celowniku także osoby publiczne
Jedną z osób, których wizerunek został użyty do tworzenia takich obrazów, jest Ashley St Clair, publicystka i strateg polityczna. W rozmowie z brytyjskim Guardianem poinformowała, iż użytkownicy platformy X mieli wykorzystywać Groka do tworzenia seksualizowanych obrazów z jej udziałem. Dotyczyło to również zdjęcia z okresu dzieciństwa.
Stanowisko xAI i platformy X
W odpowiedzi na pytania użytkowników Grok poinformował, że większość przypadków generowania seksualizowanych treści z udziałem nieletnich może zostać ograniczona dzięki filtrom oraz systemom monitorowania. Jednocześnie zaznaczono, że żaden system nie jest całkowicie odporny na nadużycia.
Firma xAI przekazała, iż pracuje nad ulepszeniami i analizuje zgłoszenia dotyczące nieprawidłowego wykorzystania narzędzia. Elon Musk wielokrotnie przedstawiał Groka jako chatbota z mniejszą liczbą ograniczeń, stawiającego na swobodę wypowiedzi. W sierpniu wprowadzono do niego tzw. Spicy Mode, który umożliwia generowanie treści NSFW.
Rzecznik platformy X poinformował, że firma usuwa nielegalne treści, zawiesza konta oraz współpracuje z władzami i organami ścigania. Podkreślono, że osoby korzystające z Groka do tworzenia nielegalnych materiałów ponoszą takie same konsekwencje, jak użytkownicy publikujący je w inny sposób.
Reakcje regulatorów
Sprawą zajmują się obecnie organy w kilku krajach, w tym we Francji, Wielkiej Brytanii, Indiach, Australii, Malezji i Brazylii. Postępowania dotyczą tworzenia i rozpowszechniania niekonsensualnych, seksualizowanych obrazów kobiet i dzieci.
W tle pojawia się również dyskusja prawna dotycząca odpowiedzialności platform internetowych. W Stanach Zjednoczonych serwisy często powołują się na punkt 230 ustawy Communications Decency Act, która ogranicza ich odpowiedzialność za treści użytkowników. W przypadku narzędzi opartych na sztucznej inteligencji pojawia się jednak argument, że to sama platforma generuje treści, a nie wyłącznie użytkownicy.
Działania Komisji Europejskiej
Komisja Europejska nakazała platformie X zachowanie wszystkich wewnętrznych dokumentów i danych związanych z chatbotem Grok do końca 2026 roku. Jak poinformował rzecznik Komisji, decyzja dotyczy materiałów związanych z algorytmami oraz rozpowszechnianiem nielegalnych treści.
Komisja uznała rozpowszechniane na platformie X obrazy przedstawiające „rozebrane” kobiety i dzieci za nielegalne i niedopuszczalne. Nakaz jest rozszerzeniem wcześniejszego polecenia wydanego wobec X w ubiegłym roku.
Jednocześnie zaznaczono, że decyzja ta nie oznacza rozpoczęcia nowego formalnego postępowania w ramach unijnego aktu o usługach cyfrowych (DSA), lecz ma na celu zabezpieczenie dokumentów na potrzeby ewentualnych dalszych działań.
Spodobało Ci się? Podziel się ze znajomymi!
Pokaż / Dodaj komentarze do:
Grok przesadził i teraz mają problem