Demokraci chcą... zablokować Groka. Coś wam to przypomina?

Burza wokół chatbota Elona Muska nie ominęła USA, gdzie miliarder ma wielu politycznych przeciwnków. Demokraci zaczęli naciskać na Google i Apple i domagają się usunięcia X ze sklepów z aplikacjami Sprawa dotyczy zarzutów o generowanie przez system obrazów kobiet oraz rzekomo nieletnich w bikini. Choć krytyka formalnie wymierzona jest w jedną platformę, jej konsekwencje wykraczają daleko poza pojedynczą aplikację.

Senatorowie Ron Wyden, Ben Ray Luján oraz Ed Markey skierowali oficjalny list do dyrektora generalnego Apple Tima Cooka i szefa Google Sundara Pichaia. W dokumencie zażądali całkowitego usunięcia aplikacji X ze sklepów App Store i Google Play. Ustawodawcy skoncentrowali się wyłącznie na Groku, pomijając fakt, że podobne możliwości generowania syntetycznych obrazów są obecne w niemal wszystkich zaawansowanych systemach sztucznej inteligencji dostępnych na rynku. Platforma X obsługuje obecnie około 557 milionów użytkowników.

Zarzuty naruszenia zasad sklepów z aplikacjami

Autorzy listu oskarżyli X o całkowite lekceważenie warunków dystrybucji obowiązujących w sklepach Apple i Google. Wskazywali na regulaminy Google zakazujące aplikacji ułatwiających wykorzystywanie lub krzywdzenie dzieci oraz na politykę Apple, która zabrania obecności treści uznawanych za obraźliwe lub budzące powszechny niepokój. Senatorowie wezwali obie firmy do usunięcia aplikacji do momentu, aż naruszenia zostaną usunięte, nie odnosząc się przy tym do konstytucyjnych gwarancji wolności słowa.

Problem wykraczający poza jedną platformę

Możliwość tworzenia syntetycznych obrazów o charakterze erotycznym lub balansującym na granicy prawa nie jest cechą unikalną Groka. Dziesiątki systemów generatywnych, w tym modele o otwartym kodzie źródłowym, potrafią wytwarzać podobne treści przy minimalnym wysiłku użytkownika. Wiele z nich działa poza jakąkolwiek realną kontrolą korporacyjną czy państwową, co podważa sens skupiania uwagi wyłącznie na jednej firmie.

Selektywne egzekwowanie zasad

W liście przywołano wcześniejsze przypadki, w których Apple i Google usuwały aplikacje takie jak ICEBlock czy Red Dot pod presją rządu. Senatorowie zauważyli, że tamte narzędzia nie tworzyły ani nie hostowały treści nielegalnych, a mimo to zostały usunięte na podstawie twierdzeń administracji o zagrożeniu dla działań organów imigracyjnych. To porównanie odsłania mechanizm, w którym decyzje o egzekwowaniu regulaminów zależą bardziej od bieżącego klimatu politycznego niż od spójnych kryteriów.

Niewygodne pytania o konsekwencję

Gdyby Apple i Google stosowały identyczne standardy wobec wszystkich aplikacji w swoich ekosystemach, musiałyby zmierzyć się z faktem, że wiele narzędzi AI, także tych zintegrowanych z ich własnymi usługami, potrafi generować analogiczne obrazy. ChatGPT firmy OpenAI, z którym Apple współpracuje przy rozwoju Siri, oraz Google Gemini również były w stanie tworzyć takie treści. Senatorowie nie wystąpili jednak z żądaniem usunięcia tych aplikacji, co rodzi pytania o konsekwencję i motywacje działań politycznych.

Strukturalny problem sztucznej inteligencji

Modele generatywne trenowane na ogromnych zbiorach danych wizualnych można stosunkowo łatwo nakłonić do tworzenia materiałów przekraczających granice etyczne lub prawne. Skupienie krytyki na jednej firmie łagodzi napięcie polityczne, lecz nie rozwiązuje fundamentalnego problemu technologicznego. W dłuższej perspektywie prowadzi to do sytuacji, w której kontrola cyfrowa staje się narzędziem nacisku, a nie neutralnym mechanizmem ochrony użytkowników.

Efektem obecnych działań jest środowisko, w którym wielkie korporacje technologiczne i urzędnicy państwowi wspólnie decydują, które platformy mogą funkcjonować w głównym nurcie dystrybucji.