AI przerabia zdjęcia dzieci. Szokujące reklamy na Facebooku

Wizerunek młodej osoby z rodziny królewskiej wykorzystany w reklamach aplikacji seksualnej w Chinach. Reklama ta była wyświetlana na platformach Meta. Łącznie znaleziono ponad 300 reklam Meta, które zawierały wygenerowane przez sztuczną inteligencję obrazy przedstawiające seksualizację dzieci.

Meta została oskarżona o publikowanie setek płatnych reklam zawierających materiały prezentujące wykorzystywanie seksualne dzieci (CSAM), w których wykorzystywano zdjęcia prawdziwych dzieci, w tym jedno przedstawiające dziecko należące do europejskiej rodziny królewskiej.

Ponad 300 reklam wykrytych przez badaczy

Naukowcy z amerykańskiej organizacji non-profit Tech Transparency Project (TTP) zidentyfikowali wiele zdjęć prawdziwych dzieci z pobranych z postów w mediach społecznościowych i stron internetowych, które wykorzystano w reklamach zawierających materiały wizualne przedstawiające wykorzystywanie seksualne dzieci, jakie pojawiły się w tym roku na Facebooku i Instagramie.

Tech Transparency Project poinformowało, że wizerunek członka rodziny królewskiej został wzięty z oficjalnego zdjęcia opublikowanego przez rodzinę w zeszłym roku. "Młoda królowa została animowana w filmie, w którym wykonuje drastyczny akt seksualny. Reklama promowała chińską aplikację AI i była skierowana do dorosłych mężczyzn". Analitycy nie podają nazwiska członka rodziny królewskiej, aby chronić ofiarę. Dodają, że skontaktowali się z władzami kraju, którego sprawa dotyczy.

AI zamieniało zwykłe zdjęcia w szokujące materiały

Wiele reklam zawiera niewinne zdjęcia nastolatek lub dziewcząt w wieku przednastoletnim oraz nałożony na nie tekst informujący, że „to nie jest zwykłe zdjęcie” i że „nie ma żadnych ograniczeń” co do tego, co można zrobić z tym obrazem. Gdy rozpoczyna się odtwarzanie reklam wideo, twarze dzieci zostają przekształcone w sceny o charakterze erotycznym, często przedstawiające je w trakcie aktów seksualnych.

Według TTP reklama jest „jedną z setek” zawierających obrazy molestowania seksualnego dzieci, które pojawiły się na Facebooku, Instagramie, Messengerze, Threads i szerszej sieci reklamowej Meta od końca ubiegłego roku.

Część reklam prowadziła do aplikacji dostępnych w sklepach

Badacze twierdzą, że kliknięcie większości reklam powodowało, że użytkownicy pobierali ze sklepów z aplikacjami Apple i Google aplikacje wykorzystujące sztuczną inteligencję do podmiany twarzy lub generowania filmów. Chociaż aplikacje umożliwiające nagość nie powinny być dozwolone w sklepach Play i App Store zgodnie z ich regulaminem, wcześniejsze dochodzenie TTP wykazało, że około 40% aplikacji znalazło się w wynikach wyszukiwania po wpisaniu takich haseł jak

TTP odkryło również, że Apple i Google ułatwiają wyszukiwanie aplikacji związanych z nudify , dodając reklamy i sugestie autouzupełniania, dzięki czemu wyniki wyszukiwania związane z nudify znajdują się na szczycie listy. Śledztwo wykazało również, że część reklam została umieszczona przez agencje reklamowe „najwyższej klasy” należące do Meta w Chinach.

Według TTP, jedna z agencji, która emitowała reklamy CSAM, GIMC, jest kontrolowana przez chiński rząd. Inna, Blue Focus, ma powiązania z głównym kanałem propagandowym Komunistycznej Partii Chin.

Większość reklam CSAM zidentyfikowanych przez TTP promowała aplikacje AI do obróbki zdjęć lub filmów opracowane przez chińskie firmy. Wiele z nich, jak odkryli badacze, umożliwiało prezentowanie nagich zdjęć.

Meta już wielokrotnie byłą oskarżana opublikowanie reklam, które wykorzystują zdjęcia celebrytów do promowania oszustw. Teraz do tego dochodzą reklamy przedstawiające nieletnich w scenach seksu.