Ten film miał pogrążyć Xiaomi. Twórcy deepfake’a trafili w ręce policji

Chiński rynek samochodów elektrycznych mierzy się z nowym rodzajem problemu. Nie chodzi już wyłącznie o walkę cenową, parametry baterii czy możliwości systemów autonomicznej jazdy. Coraz większym zagrożeniem stają się spreparowane nagrania, fałszywe informacje i materiały tworzone przy pomocy sztucznej inteligencji. W przypadku Xiaomi sprawa poszła tak daleko, że osoby odpowiedzialne za publikowanie zmanipulowanych materiałów zostały zatrzymane.

W sieci pojawiały się nagrania mające przedstawiać samochody Xiaomi podczas testów zderzeniowych. Problem w tym, że materiały zostały zmanipulowane w taki sposób, aby pojazdy wyglądały na znacznie bardziej uszkodzone niż w rzeczywistości. Policja wkroczyła do akcji, a autorzy materiałów zostali ukarani.

Nie jest to pojedynczy przypadek. Xiaomi od kilku miesięcy informuje o kolejnych kampaniach wymierzonych w jego samochody i osoby zarządzające firmą. Podobne problemy zgłaszają NIO i BYD. Chińskie władze coraz częściej reagują na fałszywe nagrania dotyczące wypadków oraz rzekomych awarii samochodów elektrycznych.

Fałszywe testy zderzeniowe uderzyły w Xiaomi

Najnowszy przypadek dotyczył dwóch osób, które przygotowały spreparowane nagrania przedstawiające testy zderzeniowe samochodów Xiaomi. Materiały miały sugerować, że pojazdy podczas kolizji zachowują się znacznie gorzej, niż wynikałoby to z rzeczywistych testów.

Według informacji przekazywanych przez Xiaomi policja podjęła działania wobec autorów nagrań. Zastosowano zatrzymania administracyjne oraz kary finansowe, a zmanipulowane publikacje zostały usunięte z internetu.

Dla producenta samochodów taki materiał może być szczególnie dotkliwy. Test zderzeniowy jest dla potencjalnego klienta jednym z najważniejszych źródeł informacji o bezpieczeństwie pojazdu. Nagranie wyglądające jak autentyczny materiał z testu może więc wywołać znacznie większą reakcję niż zwykły negatywny komentarz.

W przypadku samochodów elektrycznych problem dodatkowo komplikuje się przez ogromną liczbę nowych marek i modeli pojawiających się na chińskim rynku. Klienci często nie mają jeszcze wieloletnich doświadczeń z konkretnymi producentami, dlatego materiały krążące w mediach społecznościowych mogą mocno wpływać na ich decyzje.

W Xi’an odkryto większą operację

Najnowsze zatrzymania nie były pierwszą akcją przeciwko twórcom fałszywych materiałów dotyczących Xiaomi. W czerwcu władze Xi’an zakończyły większe dochodzenie dotyczące działalności kilku agencji MCN oraz osób zajmujących się produkcją internetowych treści. Według informacji przekazywanych przez chińskie służby podejrzani mieli masowo przygotowywać materiały generowane lub modyfikowane przy pomocy sztucznej inteligencji. Ich celem miały być samochody Xiaomi oraz osoby związane z firmą.

Śledczy zatrzymali część podejrzanych, a podczas działań zabezpieczono sprzęt wykorzystywany do tworzenia materiałów. Xiaomi ostrzegło, że wykorzystywanie AI do rozpowszechniania fałszywych informacji będzie wiązało się z konsekwencjami prawnymi.

Ważny jest tutaj sposób działania takich grup. Zamiast pojedynczego filmu publikowanego na jednym koncie mogą powstawać dziesiątki lub setki materiałów, które następnie trafiają na wiele profili. Sztuczna inteligencja znacząco ułatwia produkcję takich treści, ponieważ pozwala szybko zmieniać scenariusze, obrazy, głosy i nagrania.

NIO również padło ofiarą kampanii z użyciem AI

Problem nie ogranicza się do Xiaomi. NIO poinformowało o zatrzymaniu osoby podejrzanej o wykorzystanie narzędzi sztucznej inteligencji do produkowania fałszywych materiałów dotyczących firmy.

Według informacji ujawnionych przez producenta treści miały trafiać na tysiące kont w mediach społecznościowych. Łącznie mogły wygenerować dziesiątki milionów wyświetleń.

Dla firmy działającej na rynku, na którym premiery nowych samochodów są niezwykle częste, taka kampania może pojawić się dokładnie w momencie, gdy producent próbuje zdobyć uwagę potencjalnych klientów. Negatywny materiał nie musi być nawet szczególnie wiarygodny. Wystarczy, że pojawi się na wielu kontach i zacznie być masowo komentowany.

NIO prowadziło również sprawy cywilne przeciwko blogerom oskarżanym o zniesławienie. Osobne kontrowersje dotyczyły marki Onvo oraz technologii wymiany baterii.

BYD też poszedł do sądu

Podobną drogę wybrał BYD. Jeden z największych chińskich producentów samochodów elektrycznych również podejmował działania prawne przeciwko autorom fałszywych informacji.

W jednej ze spraw firma wygrała postępowanie dotyczące zmanipulowanych twierdzeń na temat jej podzespołów.

To pokazuje, że walka z fałszywymi materiałami staje się dla chińskich producentów samochodów częścią codziennej działalności. Firmy nie reagują już wyłącznie na krytyczne opinie. Coraz częściej próbują ustalić, czy materiał został celowo sfabrykowany i czy jego autor działał z zamiarem zaszkodzenia konkretnej marce.

Deepfake może udawać prawdziwy wypadek

Największym problemem nie jest sama możliwość stworzenia fałszywego filmu. Takie materiały można przygotować od lat. Sztuczna inteligencja sprawiła jednak, że granica między autentycznym nagraniem a manipulacją stała się znacznie trudniejsza do zauważenia.

W przypadku samochodów elektrycznych szczególnie łatwo wykorzystać materiały przedstawiające rzekome awarie. Wystarczy nagranie uszkodzonego auta, odpowiednio zmieniony opis i sugestia, że pojazd sam przyspieszył, nie zadziałały hamulce albo zawiódł system autonomicznej jazdy.

W chińskich mediach społecznościowych pojawiały się również przypadki wykorzystywania systemów autonomicznej jazdy jako argumentu mającego usprawiedliwiać zachowanie kierowców. Niektóre materiały miały sugerować, że za wypadek odpowiada samochód, mimo że rzeczywisty przebieg wydarzeń był inny.

Problem jest szczególnie poważny w przypadku nagrań, które zaczynają żyć własnym życiem. Nawet jeśli producent szybko wyjaśni, że film jest fałszywy, część odbiorców może już wcześniej zapamiętać jego pierwszą wersję.

Xiaomi ma jeszcze jeden powód do obaw

W przypadku Xiaomi problem pojawia się w wyjątkowo ważnym momencie. Firma przygotowuje rozwój swojej oferty opartej na samochodach z wydłużonym zasięgiem, określanych jako EREV.

Tego typu pojazdy wykorzystują napęd elektryczny, a dodatkowy silnik spalinowy pełni funkcję generatora energii. Chiński rynek coraz mocniej interesuje się taką konstrukcją, szczególnie w segmencie samochodów rodzinnych.

Zaufanie do bezpieczeństwa ma tutaj ogromne znaczenie. Klient kupujący nowy samochód chce wiedzieć, jak pojazd zachowa się podczas kolizji, jak działa jego układ hamulcowy i czy systemy wspomagania kierowcy działają zgodnie z deklaracjami producenta.

Fałszywe nagranie sugerujące problemy z którymkolwiek z tych elementów może więc uderzyć w sprzedaż znacznie mocniej niż zwykła negatywna recenzja.

Chińskie marki zaczynają walczyć z fałszywymi treściami coraz ostrzej

Nie wiadomo, czy wszystkie kampanie przeciwko producentom samochodów są ze sobą powiązane. Część może być zwykłym internetowym trollingiem, część próbą zdobycia wyświetleń, a jeszcze inne działania mogą mieć charakter celowego ataku na konkretną markę.

Dla producentów różnica jest jednak drugorzędna. Jeżeli fałszywy film zdobędzie miliony wyświetleń, jego wpływ na odbiorców może być realny niezależnie od motywacji autora.

Dlatego Xiaomi, NIO i BYD coraz częściej korzystają z pomocy policji oraz sądów. W przypadku najnowszych materiałów dotyczących Xiaomi sprawa zakończyła się zatrzymaniami i karami dla twórców.

To również sygnał dla influencerów i operatorów dużych kont w chińskich mediach społecznościowych. Przygotowanie fałszywego nagrania samochodu nie musi już kończyć się wyłącznie usunięciem filmu czy blokadą konta. Jeżeli materiał zostanie uznany za celową dezinformację, autor może ponieść znacznie poważniejsze konsekwencje.