Deepfake wskoczył na nowy poziom. Teraz stanowi jeszcze większe zagrożenie

Sztuczna inteligencja rozwinęła się do tego stopnia, że pozwala na tworzenie realistycznych deepfake'ów i to w czasie rzeczywistym. Pozwala to przestępcom na podkładanie głosu danej osoby podczas rozmowy na żywo, bez montażu.

Znikają zarazem ograniczenia, które wymuszały między innymi powolne przetwarzanie danych. Jest to jednocześnie jeszcze większe zagrożenie dla cyberbezpieczeństwa. NCC Group, firma zajmująca się cyberbezpieczeństwem twierdzi, iż połączenie narzędzi AI open-source z dostępnym na rynku sprzętem pozwala na tworzenie deepfake’ów głosu w czasie rzeczywistym z minimalnym opóźnieniem.

Deepfake stał się jeszcze większym zagrożeniem

Obecnie używa się modeli AI trenowanych na próbkach głosu ofiary, które umożliwiają generowanie żywych imitacji, które operatorzy aktywują za pomocą przycisku na specjalnej stronie internetowej. Proces wymaga jedynie umiarkowanej mocy obliczeniowej, chociaż lepsze karty graficzne mogą poprawić skuteczność.

W testach przeprowadzonych na laptopie z kartą Nvidia RTX A1000, opóźnienie wynosiło tylko pół sekundy. Nagrania dźwiękowe pokazują, że system może tworzyć przekonujące kopie głosu, pochodzące nawet z niskie jakości nagrań.

 

Dawniej potrzebne były próbki głosowe trwające minutę i to można było jedynie tworzyć nagrania, które później służyły do odtwarzania. Możliwość zmiany głosu w czasie rzeczywistym eliminuje pauzy i inne elementy, które mogłyby ujawnić oszustwo.

Nowe metody znacznie skuteczniejsze

Pablo Alobera, konsultant ds. bezpieczeństwa w NCC Group, powiedział, że podczas kontrolowanych testów, na które uzyskano zgodę klientów, deepfake głosu generowanego w czasie rzeczywistym był znacznie bardziej skuteczny od starych rozwiązań i niemal za każdym razem zdołał oszukać cel.

Taka technologia ma już realny wpływ na działanie ludzi. Wiseman, założyciel firmy zajmującej się cyberbezpieczeństwem, przypomniał o przypadku, w którym firma została oszukana podczas rekrutacji, wysyłając laptop na fałszywy adres. Pracownika weryfikowała za pomocą transmisji.