Wykorzystali AI do sfingowania porwania. Sklonowali głos nastolatki i zadzwonili do rodziców

Kobieta z Arizony prawie padłą ofiarą oszustów, którzy wykorzystali algorytmy sztucznej inteligencji do sfingowania porwania jej córki.

Jennifer DeStefano odebrała połączenie z nieznanego numeru i usłyszała płacz swojej 15-letniej córki, Brie. Płacząca dziewczyna powiedziała do słuchawki: "Mamo, schrzaniłam", po czym męski głos przejął kontrolę i zaczął grozić. "Ten mężczyzna dzwonił i powiedział: "Słuchaj, mam twoją córkę" - powiedziała DeStefano w lokalnym programie informacyjnym WKYT. Domniemany porywacz powiedział matce, że ma nie dzwonić na policję lub do kogokolwiek innego, bo zrobi z jej córką wszystko, co będzie chciał, nafaszeruje ją narkotykami i wywiezie do Meksyku. Pani DeStefano opowiedziała, że słyszała, jak jej córka błaga ją o pomoc i płacze. "To był w 100 procentach jej głos" - powiedziała. "Nie było wątpliwości, kto to jest. To była jej modulacja głosu i sposób płaczu. To była ta niezwykła cecha, która doprowadziła mnie do łez". Sytuację pogarszał fakt, że córka była w tym czasie na wycieczce.

Wyszkolili algorytmy, by podrobić głos ofiary, a następnie zadzwonili do rodziców z żądaniem okupu. Przestępcy znaleźli nowe zastosowanie dla tzw. "sztucznej inteligencji".

Osoba udająca porywacza zażądała 1 miliona dolarów okupu za uwolnienie córki, a następnie obniżyła kwotę do 50 000 dolarów. DeStefano była pewna, że jej córka jest bezpieczna dopiero po tym, jak jej mąż otrzymał potwierdzenie od przyjaciółki córki.  Policja wciąż prowadzi dochodzenie w sprawie oszusta, który najprawdopodobniej wykorzystał technologię klonowania głosu z użyciem sztucznej inteligencji, która w ostatnim czasie stała się coraz bardziej zaawansowana w naśladowaniu ludzkich głosów. Narzędzia sztucznej inteligencji są stosunkowo łatwe w obsłudze oraz dostępne bezpłatnie w internecie.

Matka powiedziała, że sytuacja jest szczególnie niepokojąca, bo córka nie udostępnia żadnych swoich nagrać w portalach społecznościowych, choć dość obszerna próbka jej głosu jest dostępna na szkolnej stronie z okazji kilku wywiadów.  Eksperci twierdzą, że technologia klonowania głosu rozwinęła się do tego stopnia, że ​​czyjś ton i sposób mówienia można odtworzyć na podstawie najkrótszych dźwięków. „Na początku wymagałoby to większej liczby próbek” — wyjaśnił Subbarao Kambhampati, profesor informatyki i autorytet w dziedzinie sztucznej inteligencji na Uniwersytecie Stanowym Arizony. „Teraz istnieją sposoby, dzięki którym możesz to zrobić za pomocą zaledwie trzech sekund swojego głosu. Trzy sekundy. A po trzech sekundach może zbliżyć się do tego, jak dokładnie brzmisz”. Według profesora, przy wystarczająco dużej próbce,algprytm może naśladować nawet emocje.