W USA wprowadzono prawo uderzające w materiały deepfakes

Od kilku miesięcy obserwujemy gwałtowny rozwój technologii umożliwiającej tworzenie coraz bardziej realistycznych fałszywych materiałów wideo, co może stanowić duży problem, jeśli chodzi o politykę i zmanipulowane filmy porno. Aby jakoś zaradzić tej sytuacji, stan Kalifornia podpisał dwa projekty ustaw, które są wycelowane w takie materiały wideo. W ubiegłym tygodniu gubernator Kalifornii Gavin Newsom podpisał AB 730. Tamtejsze prawo zabrania od teraz rozpowszechniania zmanipulowanych filmów wideo, mających na celu zdyskredytowanie kandydata politycznego i oszukanie wyborców w ciągu 60 dni od wyborów powszechnych.

W Kalifornii od teraz każdy pokrzywdzony może bez problemu pozwać twórcę materiałów deepfakes. Dodatkowo wprowadzono zakaz przeróbek z politykami w roli głównej, w okresie przed wyborami. Zapewne nowe przepisy wkrótce przeniosą się na pozostałe regiony.

Widzieliśmy już, w jaki sposób deepfakes, polegające na przerabianiu zdjęć i filmamów przy pomocy uczenia maszynowego, mogą być wykorzystywane do manipulowania wypowiedziami polityków. Film przedstawiający Baracka Obamę, który mówi głosem filmowca Jordana Peele'a, jest dość przekonujący, a klip, w którym Nancy Pelosi sprawiła wrażenie pijanej wywołał liczne kontrowersje, gdy Facebook odmówił jego usunięcia.

Deepfakes zdobyło szybko popularność, gdy ludzie zaczęli cyfrowo zastępować twarze aktorek porno twarzami gwiazd Hollywood. Dzięki ustawie AB 602, mieszkańcy Kalifornii będą mogli pozywać każdego, kto umieści ich zdjęcie w klipie pornograficznym bez ich zgody. "Wyborcy mają prawo wiedzieć, kiedy wideo, audio i obrazy, które są pokazywane, są zmanipulowane, by wpływać na ich głos w nadchodzących wyborach i nie reprezentują rzeczywistości" - powiedział członek Zgromadzenia Kalifornijskiego Marc Berman, autor AB 730 i AB 602. "W kontekście wyborów, możliwość przypisania kandydatowi mowy lub zachowania, które się nigdy nie zdarzyło, sprawia, że ​​technologia deepfake jest potężnym i niebezpiecznym nowym narzędziem w arsenale tych, którzy chcą wprowadzać w błąd wyborców podczas kampanii".  Hao Li, pionier deepfakes i profesor informatyki na Uniwersytecie Południowej Kalifornii, powiedział, że „idealnie prawdziwe” materiały będą powstawać już za 6 miesięcy.