Grok zarabia na erotyce. Ponad połowa ruchu xAI to treści NSFW

Grok od początku wyróżniał się na tle konkurencji. xAI reklamowało swojego chatbota jako mniej ograniczonego niż rozwiązania OpenAI, Google czy Anthropic, oferując użytkownikom znacznie większą swobodę. Nowy raport ujawnia jednak, że za tą strategią nie stały "wolnościowe" podejście Elona Muska, ale przede wszystkim względy biznesowe.

Według byłych pracowników xAI cytowanych przez serwis The Information, treści oznaczone jako NSFW odpowiadają za znacznie ponad połowę całego ruchu generowanego przez Groka.

Pornografia i erotyczne rozmowy napędzają popularność

Raport wskazuje, że użytkownicy masowo wykorzystują Groka do tworzenia materiałów pornograficznych, erotycznych opowiadań oraz prowadzenia rozmów o charakterze seksualnym z wirtualnym asystentem.

Co więcej, część osób odkryła, że generowanie takich treści jest tańsze przy użyciu modeli przeznaczonych do programowania. Wewnętrzne analizy xAI miały wykazać, że znacząca część zapytań kierowanych do modeli kodujących dotyczyła tworzenia nagich lub pornograficznych obrazów, a nie pisania kodu. To sugeruje, że segment treści dla dorosłych może stanowić duże źródło przychodów firmy.

Raport wskazuje, że użytkownicy masowo wykorzystują Groka do tworzenia materiałów pornograficznych, erotycznych opowiadań oraz prowadzenia rozmów o charakterze seksualnym z wirtualnym asystentem.

Inżynierowie mieli trudne zadanie

Rozwój Groka nie obył się bez problemów. Zespół xAI musiał jednocześnie umożliwić prowadzenie erotycznych konwersacji i skutecznie blokować próby generowania materiałów związanych z wykorzystywaniem seksualnym dzieci. Według źródeł nie istniało proste rozwiązanie tego problemu.

Kontrowersje wywołał również projekt „Ani”, czyli inspirowanej anime wirtualnej towarzyszki z funkcjami NSFW (z ang. Not Safe For Work to popularny skrót oznaczający treści nieodpowiednie do oglądania w miejscu pracy lub w miejscach publicznych). Część pracowników miała otwarcie krytykować kierunek rozwoju produktu, a wewnątrz firmy pojawiały się głosy zażenowania po kolejnych skandalach związanych z generowaniem seksualizowanych grafik przedstawiających prawdziwe osoby, w tym nieletnie.

Choć platforma X ograniczyła możliwość tworzenia takich materiałów bezpośrednio w serwisie, płatni użytkownicy usług xAI nadal mają dostęp do bardziej liberalnych funkcji.

Ryzyko dla kontraktów rządowych

Kontrowersyjna strategia może okazać się problematyczna z jeszcze jednego powodu. xAI intensywnie zabiega o kontrakty z administracją publiczną oraz wojskiem, czyli instytucjami, które zazwyczaj wymagają najwyższych standardów bezpieczeństwa i zgodności z przepisami.

Dotychczasowe afery związane z generowaniem nieautoryzowanych deepfake'ów czy innych nielegalnych treści doprowadziły już do pozwów oraz postępowań wyjaśniających. Nie wiadomo jednak, czy wpłyną one na przyszłe relacje firmy z instytucjami państwowymi.

Najnowsze informacje pokazują, że xAI obrało zupełnie inną drogę niż większość konkurentów. Pytanie brzmi, czy strategia oparta na maksymalnym ograniczaniu zabezpieczeń okaże się długoterminowym sukcesem biznesowym, czy raczej źródłem kolejnych problemów wizerunkowych i prawnych.