Miliony ufają tym lekarzom. Rzecz w tym, że oni nie istnieją

Deepfake'i oparte na sztucznej inteligencji kradną tożsamość prawdziwych lekarzy, aby sprzedawać fałszywe metody leczenia. Lekarze są narażeni na wykorzystywanie swoich twarzy i głosów w fałszywych rekomendacjach medycznych, a usunięcie tych filmów okazuje się trudne.

Oszuści wykorzystujący sztuczną inteligencję wykorzystują twarze i głosy lekarzy, aby sprzedawać wątpliwe metody leczenia. Filmy mogą uchodzić za autentyczne rekomendacje medyczne. Śledztwo CBC News ukazuje, jak oszuści podszywają się pod kanadyjskich lekarzy w reklamach produktów, których nigdy nie promowali. Pacjenci tracą pieniądze na terapie i leki, które nigdy nie docierają do pacjentów, a lekarze obawiają się, że sfabrykowane porady medyczne mogą odwodzić ludzi od legalnej opieki.

Lekarz reklamuje terapię, której nigdy nie polecał

Oszuści potrafią manipulować nagraniami prawdziwych lekarzy, aby sprawiać wrażenie, że rekomendują oni zabiegi, których w rzeczywistości nigdy nie polecali. Znajoma twarz nadaje reklamie pozór medycznego autorytetu, nawet jeśli rada jest całkowicie zmyślona.

Kanadyjskie Stowarzyszenie Medyczne ostrzega, że ​​niektórzy oszuści posuwają się jeszcze dalej, tworząc całkowicie fikcyjnych lekarzy opartych na sztucznej inteligencji. Te cyfrowe osobowości mogą udzielać mylących porad zdrowotnych, nie podając się za niczyją tożsamość. Stowarzyszenie zauważa również, że kanadyjscy lekarze generalnie nie mogą publicznie promować regulowanych produktów leczniczych. Lekarz występujący w reklamie cudownego leku jest zatem powodem do podejrzeń.

Fałszywi lekarze zdobywają miliony wyświetleń

Śledztwo Science Feedback zidentyfikowało 18 kont TikToka , które rozpowszechniały filmy z lekarzami generowanymi przez sztuczną inteligencję, w tym podszywające się pod prawdziwych lekarzy. Niektóre filmy osiągnęły miliony wyświetleń. Kilka kont nie sprzedawało niczego bezpośrednio. Budowały one grono odbiorców, udzielając wątpliwych porad medycznych, potencjalnie stwarzając okazje do późniejszej monetyzacji tych odbiorców.

Śledczy stwierdzili również, że filmy generalnie nie miały oznaczeń generowanych przez sztuczną inteligencję. TikTok poinformował później, że usunął konta, które naruszały jego zasady.

Platformy próbują wykrywać deepfake'i

Platformy opracowują sposoby na wyłapywanie oszustów Platforma Meta przetestowała rozpoznawanie twarzy w celu identyfikacji fałszywych reklam z udziałem osób publicznych, a YouTube rozszerzył swój system wykrywania podobizn oparty na sztucznej inteligencji, aby pomóc uprawnionym twórcom w znajdowaniu i zgłaszaniu nieautoryzowanych filmów.

Amerykańskie Stowarzyszenie Medyczne domaga się jednak silniejszej ochrony, obejmującej m.in. szybsze usuwanie treści i wyraźniejsze oznaczanie treści medycznych generowanych przez sztuczną inteligencję. Żadne z tych środków nie gwarantuje, że każde fałszywe nagranie zostanie wykryte. Znajoma twarz lekarza nie wystarczy już do ustalenia, czy rekomendacja jest autentyczna.

Sprawdzanie informacji bezpośrednio u lekarza lub w zaufanej placówce medycznej to bezpieczniejszy punkt wyjścia. Narzędzia takie jak Bitdefender RealCheck mogą pomóc w oznaczeniu podejrzanych treści, ale czysty wynik również nie powinien być traktowany jako dowód autentyczności filmu.