ChatGPT zbanował rosyjskie konta za sianie dezinformacji

OpenAI poinformowało o zablokowaniu kont powiązanych z Rosją, które miały zostać wykorzystane do prowadzenia skoordynowanej kampanii dezinformacyjnej. Według firmy użytkownicy korzystali z ChatGPT między innymi do tworzenia treści mających sprawiać wrażenie opinii niezależnych ekspertów. Materiały trafiały następnie do kilku popularnych serwisów internetowych.

Sprawa jest interesująca także z technologicznego punktu widzenia. Sztuczna inteligencja nie miała być tutaj celem kampanii, lecz jednym z narzędzi wykorzystywanych do przygotowywania i skalowania publikowanych treści.

ChatGPT wykorzystany do tworzenia fikcyjnej społeczności ekspertów

Według OpenAI osoby stojące za operacją promowały organizację przedstawiającą się jako Międzynarodowy Instytut Burke'a, znany jako IBI. Projekt miał sprawiać wrażenie niezależnego środowiska ekspertów z siedzibą w Izraelu.

Publikowane materiały były skierowane przede wszystkim do odbiorców anglojęzycznych. Ich przekaz był krytyczny wobec państw Zachodu, między innymi Stanów Zjednoczonych, Francji oraz Niemiec. OpenAI twierdzi, że operatorzy korzystali z ChatGPT w języku rosyjskim, a następnie przygotowywali za jego pomocą anglojęzyczne komentarze przeznaczone do publikacji w mediach społecznościowych i serwisach takich jak Substack, Telegram, X, LinkedIn oraz Facebook.

Szczególnie interesujący jest sposób, w jaki próbowano ukryć pochodzenie autorów. Model miał otrzymywać instrukcje dotyczące maskowania cech językowych mogących sugerować rosyjskie źródło tekstów.

Strona internetowa miała stworzyć pozory wiarygodności

OpenAI zwróciło również uwagę na działalność samego IBI. Strona internetowa organizacji została zarejestrowana w lutym 2025 roku. Między wrześniem 2025 a majem 2026 roku opublikowano na niej 36 artykułów.

Według analizy OpenAI aż 34 z nich miały być skopiowane z innych źródeł. W części przypadków wykorzystano teksty mające kilka lat, a niektóre materiały przypisano niewłaściwym autorom.

Taki mechanizm pozwalał budować pozory istnienia działającej społeczności ekspertów. ChatGPT był jednym z elementów całego procesu, pomagając przy tworzeniu materiałów przeznaczonych później do rozpowszechniania w różnych kanałach.

„Po raz pierwszy udaremniliśmy tak wyrafinowaną i szeroko zakrojoną operację mającą na celu uzyskanie wpływu ze strony Rosji” – oświadczyła firma OpenAI.

Kampania miała niewielki zasięg, ale OpenAI zwraca uwagę na coś innego

Mimo rozbudowanej organizacji operacja nie osiągnęła dużego zasięgu. OpenAI podało, że publikowane posty miały stosunkowo niewiele wyświetleń, a oficjalne profile IBI zgromadziły niewielką grupę odbiorców. Powiązane kanały na Telegramie miały według firmy około 10–20 tys. subskrybentów.

Dla OpenAI istotniejsza od obecnej liczby odbiorców jest możliwość wykorzystania przygotowanej infrastruktury w przyszłości. Zorganizowanie stron internetowych, profili społecznościowych i sieci kanałów pozwala później stosunkowo łatwo zwiększyć skalę działalności.

Firma określiła wykrytą operację jako pierwszy tak rozbudowany przypadek rosyjskiej kampanii wpływu, który udało się jej udaremnić.

To kolejny problem na styku AI i dezinformacji

Wykorzystanie modeli językowych w takich działaniach pokazuje jeden z trudniejszych problemów związanych z popularyzacją generatywnej sztucznej inteligencji. Przygotowanie dużej liczby tekstów, ich tłumaczenie oraz dostosowanie języka do konkretnej grupy odbiorców może wymagać znacznie mniej pracy niż jeszcze kilka lat temu.

Nie oznacza to jednak, że każda kampania wykorzystująca AI automatycznie osiąga duży zasięg. W przypadku opisanym przez OpenAI efekt był ograniczony. Firma twierdzi jednak, że wykrycie sposobu działania operatorów pozwala blokować konta i utrudniać dalsze rozwijanie podobnych działań.

Rosja odrzuca oskarżenia

Rosyjskie władze zaprzeczają zarzutom dotyczącym cyberataków i operacji informacyjnych. Rzecznik Kremla Dmitrij Pieskow określił próby łączenia grup hakerskich z Rosją jako absurdalne i zakwestionował podstawy takich oskarżeń.

Podobne stanowisko przedstawiła rzeczniczka rosyjskiego MSZ Maria Zacharowa. Według niej zarzuty formułowane przez zachodnie instytucje nie są nowym zjawiskiem i służą interesom określonych środowisk politycznych oraz służb.

OpenAI coraz częściej wykrywa nadużycia AI

To nie pierwszy przypadek, gdy OpenAI informuje o wykorzystaniu swoich narzędzi do działań związanych z wpływem informacyjnym. Tym razem szczególnie interesujący jest jednak model działania. ChatGPT miał nie służyć do bezpośredniego publikowania propagandowych treści, lecz pomagać w ich przygotowaniu, tłumaczeniu i dostosowywaniu do odbiorców.

Dla firm rozwijających generatywną AI oznacza to konieczność nieustannego monitorowania sposobów wykorzystywania ich usług. Sama blokada pojedynczych kont nie kończy podobnych operacji, jeśli osoby stojące za nimi mogą próbować odtworzyć infrastrukturę przy użyciu innych kont lub narzędzi.