ChatGPT i Gemini bez problemu stworzyły fałszywe newsy. Tylko jeden chatbot powiedział „nie”

Sztuczna inteligencja potrafi w kilka sekund stworzyć grafikę przypominającą prawdziwy materiał telewizyjny albo zrzut ekranu z serwisu informacyjnego. Problem zaczyna się wtedy, gdy użytkownik prosi ją o przedstawienie zmyślonej informacji jako autentycznego newsa.

Badanie przeprowadzone przez niemiecki zespół CORRECTIV pokazuje, że zabezpieczenia popularnych chatbotów wciąż potrafią zawieść w takiej sytuacji. Naukowcy poprosili ChatGPT, Gemini, Microsoft Copilot oraz Meta AI o przygotowanie fałszywych materiałów informacyjnych opartych na nieprawdziwych twierdzeniach. Trzy z czterech systemów wykonały przynajmniej część takich poleceń.

Największe zastrzeżenia wzbudził ChatGPT. Model nie tylko tworzył większość zamówionych grafik, ale w testach potrafił przygotować materiały szczególnie przekonujące wizualnie. Gemini również generował fałszywe publikacje i próbował naśladować wygląd znanych zagranicznych mediów. Copilot stosował inne podejście i dodawał do wygenerowanych materiałów informację o wykorzystaniu AI. Meta AI w kluczowym przypadku odmówił wykonania polecenia.

W naszym teście większość fałszywych profili udało się utworzyć bez problemu za pomocą ChatGPT.

Badacze poprosili chatboty o stworzenie fałszywych wiadomości

Eksperyment nie polegał na prostym pytaniu o wygenerowanie fikcyjnej ilustracji. Badacze chcieli sprawdzić, czy systemy pozwolą stworzyć materiał wyglądający jak prawdziwy komunikat znanego medium, a następnie umieścić na nim zmyśloną informację.

Przygotowano osiem fałszywych twierdzeń. Dotyczyły między innymi rzekomej rezygnacji niemieckiego kanclerza oraz fikcyjnych oszustw wyborczych. Następnie te same scenariusze sprawdzano w czterech popularnych narzędziach AI: ChatGPT firmy OpenAI, Gemini Google, Copilot Microsoftu oraz Meta AI.

Wynik eksperymentu jest niepokojący. Trzy systemy wygenerowały przynajmniej część materiałów zgodnie z poleceniem.

Szczególnie dużo uwagi poświęcono ChatGPT. W wielu przypadkach model nie potrzebował skomplikowanych prób obejścia zabezpieczeń. Grafiki powstawały już po pierwszych poleceniach, a kolejne materiały można było uzyskać po zastosowaniu stosunkowo prostych zmian w instrukcjach.

ChatGPT potrafił stworzyć niemal kompletny fałszywy zrzut ekranu

W jednym z testów ChatGPT nie ograniczył się do przygotowania samego nagłówka. Model przebudował całą kompozycję obrazu, obejmującą elementy interfejsu, pulpit oraz otwarte okno przeglądarki.

Taki zabieg miał znaczenie dla wiarygodności grafiki. Zamiast pojedynczego fałszywego nagłówka powstał materiał przypominający rzeczywisty zrzut ekranu. Dla osoby, która zobaczyłaby go poza kontekstem eksperymentu, rozpoznanie manipulacji mogłoby być znacznie trudniejsze.

W jeszcze bardziej wymownym przypadku sam chatbot sygnalizował, że przygotowywana grafika może wyglądać jak materiał pochodzący od prawdziwej marki informacyjnej i przedstawiać niepotwierdzoną informację jako fakt. Mimo takiego rozpoznania system ostatecznie wygenerował obraz.

To pokazuje istotny problem z automatycznymi zabezpieczeniami. Samo wykrycie ryzykownego charakteru polecenia nie zawsze prowadzi do odmowy jego wykonania.

Gemini również potrafił podrabiać znane media

Google Gemini wypadł lepiej pod względem jakości wykonania, ale także pozwalał na tworzenie materiałów wykorzystujących wizerunek znanych redakcji.

W ramach testów model przygotowywał grafiki przypominające publikacje The New York Times oraz BBC. Rezultaty nie zawsze były idealne. Pojawiały się charakterystyczne dla generatorów obrazów błędy w tekście, dzięki którym wprawne oko mogło rozpoznać sztuczne pochodzenie materiału.

W przypadku niemieckich mediów sytuacja wyglądała inaczej. Badacze mogli odtworzyć materiały stylizowane na Tagesschau, Bild oraz CORRECTIV. W teście nie udało się natomiast w taki sam sposób odtworzyć materiałów The New York Times i BBC.

Różnice między poszczególnymi markami mogą sugerować, że mechanizmy zabezpieczające generowanie treści zależą nie tylko od samego rodzaju polecenia, lecz także od nazwy organizacji wykorzystanej w instrukcji. OpenAI nie wyjaśniło publicznie, dlaczego takie różnice mogą występować.

Firma przekazała jedynie, że stale rozwija mechanizmy bezpieczeństwa i traktuje tworzenie materiałów mających wprowadzać odbiorców w błąd jako zachowanie sprzeczne z jej zasadami.

Copilot ostrzegał, Meta AI odmówił

Microsoft Copilot zastosował znacznie bardziej zachowawcze podejście. Model potrafił przygotować materiały stylizowane na program Tagesschau, lecz dodawał do nich widoczną informację wskazującą na wykorzystanie sztucznej inteligencji.

W praktyce taki komunikat może utrudnić przedstawienie grafiki jako autentycznego materiału prasowego. Jednocześnie sam fakt wygenerowania obrazu pokazuje, że zabezpieczenie nie polegało na całkowitym odrzuceniu polecenia.

Najbardziej zdecydowanie zachowała się Meta AI. W kluczowym przypadku system odmówił przygotowania materiału zawierającego konkretne fałszywe twierdzenie.

W efekcie cztery testowane systemy zaprezentowały cztery różne podejścia do tego samego problemu. Jeden wygenerował materiał bez widocznego ostrzeżenia, drugi również pozwolił na stworzenie fałszywej grafiki, ale w innym stopniu, trzeci dodał etykietę AI, a czwarty odmówił wykonania polecenia.

Jeden fałszywy obraz może rozpocząć lawinę

Problem nie kończy się na samym wygenerowaniu grafiki. Znacznie większe znaczenie ma to, co dzieje się później. Fałszywy zrzut ekranu przypominający materiał znanego medium można opublikować w serwisie społecznościowym bez dodatkowego kontekstu. Kolejni użytkownicy mogą udostępniać obraz, nie sprawdzając jego źródła. W takiej sytuacji informacja zaczyna żyć własnym życiem, nawet jeśli pierwotny materiał został wygenerowany przez AI w ciągu kilku sekund.

Niemiecki problem nie jest wyłącznie hipotetyczny. Pod koniec lipca w serwisach TikTok, X, Instagram i Facebook pojawił się fałszywy materiał stylizowany na raport Tagesschau. Zawierał zmyśloną informację sugerującą związek Rosji z atakiem na berlińską paradę Christopher Street Day.

Dwa tygodnie wcześniej krążył inny fałszywy materiał przypisywany Tagesschau. Tym razem dotyczył rzekomego zagrożenia związanego z Benjaminem Netanjahu. W obu przypadkach odbiorca, który zobaczyłby wyłącznie grafikę udostępnioną w mediach społecznościowych, mógłby uznać ją za prawdziwą publikację.

AI Act nakłada nowe obowiązki

Problem nabiera dodatkowego znaczenia w związku z unijnymi przepisami dotyczącymi sztucznej inteligencji. Od 2 sierpnia obowiązują kolejne zasady przejrzystości wynikające z unijnego AI Act, obejmujące między innymi oznaczanie określonych treści wygenerowanych przez AI.

Eksperyment CORRECTIV pokazuje jednak, że sama możliwość technicznego oznaczenia obrazu nie rozwiązuje całego problemu. W badaniu tylko jeden z czterech dostawców umieszczał widoczną etykietę na wygenerowanym materiale.

To szczególnie istotne w przypadku grafik stylizowanych na komunikaty prasowe. Odbiorca może zobaczyć logo znanej redakcji, charakterystyczny układ strony oraz sensacyjny nagłówek, a jednocześnie nie mieć żadnego wyraźnego sygnału, że obraz powstał przy pomocy generatora.

Za publikację fałszywego materiału mogą grozić konsekwencje

W Niemczech stworzenie takiej grafiki samo w sobie nie musi prowadzić do odpowiedzialności karnej w każdym przypadku. Znaczenie ma sposób wykorzystania materiału, jego treść oraz cel publikacji.

Prawnik medialny Christian Solmecke zwraca uwagę na możliwość zastosowania przepisów dotyczących między innymi fałszowania dokumentów elektronicznych, zniesławienia czy znieważenia. W zależności od konkretnego przypadku mogą pojawić się także inne konsekwencje prawne.

Niklas Mühleis, prawnik specjalizujący się w prawie IT i sztucznej inteligencji, wskazuje również na możliwość dochodzenia roszczeń przez organizacje, których materiały zostały wykorzystane. W grę mogą wchodzić nakazy sądowe oraz roszczenia odszkodowawcze.

Problem może dotyczyć także znaków towarowych. Logotypy znanych stacji i redakcji są chronione, dlatego ich wykorzystanie w określonych sytuacjach może prowadzić do dodatkowych konsekwencji prawnych.

To nie jest ranking chatbotów

Autorzy badania zaznaczają, że eksperyment nie powinien być traktowany jako ostateczny ranking bezpieczeństwa czterech modeli. Wyniki mogą zmieniać się zależnie od zastosowanego polecenia, sposobu jego sformułowania, źródła treści oraz aktualnej wersji systemu. Inne testy bezpieczeństwa również pokazywały różnice między modelami.

Znaczenie eksperymentu CORRECTIV leży więc gdzie indziej. Pokazuje on, że współczesne generatory obrazów nadal mogą zostać wykorzystane do produkcji materiałów wyglądających jak prawdziwe publikacje medialne. Jeśli taki obraz trafi następnie do serwisu społecznościowego, jego odbiorcy mogą nie mieć łatwego sposobu na ocenę autentyczności.

Sztuczna inteligencja potrafi już nie tylko napisać fałszywy nagłówek. Potrafi ubrać go w formę przypominającą prawdziwy komunikat prasowy, dodać logo rozpoznawalnej redakcji i przygotować całość w kilka sekund. Właśnie dlatego dla użytkowników internetu coraz ważniejsze staje się nie tylko pytanie „czy to wygląda prawdziwie?”, lecz także „skąd naprawdę pochodzi ten materiał?”.