Dzięki AI podrobił głos szefa firmy energetycznej i ukradł 220000 euro

Dyrektor naczelny firmy energetycznej z siedzibą w Wielkiej Brytanii myślał, że wykonuje pilne polecenia szefa, kiedy to w marcu tego roku przekazał fundusze stronie trzeciej. Problem w tym, że prośba faktycznie pochodziła oszusta, który wykorzystywał możliwości współczesnych technologii. Wall Street Journal donosi, że dyrektor był przekonany, że rozmawia z dyrektorem generalnym firmy nadrzędnej z siedzibą w Niemczech. Dzwoniący z akcentem niemieckim powiedział mu, aby w ciągu godziny wysłał 220 000 EUR do węgierskiego dostawcy. Firma ubezpieczeniowa firmy, Euler Hermes Group SA, udostępniła WSJ informacje o przestępstwie, ale nie ujawniła nazw docelowych firm.

Niedawno w sieci widać było wiele dyskusji na temat potencjalnego wykorzystania AI w szerzeniu dezinformacji oraz przy popełnianiu przestępstw. Jak widać niektórzy przeszli od teorii do praktyki.

Rüdiger Kirsch, ekspert ds. oszustw w Euler Hermes powiedział WSJ, że ofiara rozpoznała głos swojego przełożonego, ponieważ miał niemiecki akcent i tę samą "melodię". Podobno jest to pierwszy raz gdy firma Euler Hermes ma do czynienia z klientami dotkniętymi przestępstwami wykorzystującymi naśladownictwo z użyciem AI. Kirsch powiedział WSJ, że oszust zadzwonił do firmy ofiary trzy razy. Po dokonaniu przelewu napastnik zadzwonił po raz drugi, aby skłamać, że pieniądze zostały zwrócone. Następnie haker podobno zadzwonił po raz trzeci, aby poprosić o kolejną płatność. Mimo że użyto tego samego fałszywego głosu,  połączenie tym razem zostało wykonane przy użyciu austriackiego numeru telefonu, a "zwrot pieniędzy" nie został zrealizowany, więc ofiara stała się bardziej sceptyczna wobec autentyczności dzwoniącego i nie zastosowała się do poleceń.

Technologia generowania głosu przez AI stała się w ostatnich miesiącach niepokojąco realistyczna, a Kirsch powiedział w czasopiśmie, że według niego dostępne jest komercyjnie oprogramowanie, ułatwiające podszywanie się pod innych. W maju firma AI Dessa opublikowała symulację głosu podcastera Joe Rogana, która była niemal idealną repliką - długoletni słuchacz miałby trudności z odróżnieniem Joe Rogana od "Joe Fauxgana". Jeśli chodzi o firmę energetyczną, której skradziono pieniądze, to podobno wysłano je na węgierskie konto bankowe, przeniesiono na konto w Meksyku, a następnie przekazano do różnych innych lokalizacji. Nie zidentyfikowano żadnych podejrzanych. Dessa jeszcze przed całym wydarzeniem opublikowała wpis, w którym omawia społeczne implikacje tej technologii i sugeruje kilka przykładów przestępczego użycia fałszywych głosów, w tym manipulacji wyborami, podszywania się pod członków rodziny i uzyskiwania poświadczenia bezpieczeństwa. Blog stwierdza, że ​​"w ciągu najbliższych kilku lat (lub nawet wcześniej) nastąpi rozwój technologii do poziomu, w którym potrzeba będzie tylko kilku sekund dźwięku, aby stworzyć realistyczną replikę głosu każdego na planecie".