Sprawdzian dla prawa w USA. Wykorzystywał AI do generowania dziecięcej pornografii

Władze USA aresztowały 42-letniego mężczyznę ze stanu Wisconsin za używanie generatora obrazów AI Stable Diffusion do tworzenia fotorealistycznych obrazów przedstawiających wykorzystywanie seksualne dzieci.

Departament Sprawiedliwości twierdzi, że Steven Anderegg wykorzystał bezpłatne narzędzie o otwartym kodzie źródłowym do stworzenia tysięcy „hiperrealistycznych obrazów nagich i częściowo ubranych dzieci w wieku przed okresem dojrzewania” podczas aktów seksualnych. Rzekomo zainstalował dodatki do Stable Diffusion, „specjalizujące się w produkcji genitaliów” – twierdzą śledczy. 

Stable Diffusion wdrożyło w swoim najnowszym modelu zabezpieczenia, które mogą uniemożliwić generowanie treści NSFW.

Organy ścigania dowiedziały się o tej działalności po tym, jak w październiku Anderegg przechwalał się 15-latce, że stworzył obrazy o charakterze seksualnym. Z dokumentów sądowych wynika, że ​​Anderegg – mający dziesięciolecia doświadczenia w inżynierii oprogramowania – wysłał nawet część zdjęć za pośrednictwem funkcji bezpośrednich wiadomości na Instagramie, co skłoniło Krajowe Centrum ds. Dzieci Zaginionych i Wykorzystywanych do zgłoszenia tego działania amerykańskim organom ścigania. 

„Dowody odzyskane z urządzeń elektronicznych Anderegga wykazały, że wygenerował on te obrazy, korzystając ze specjalnych podpowiedzi tekstowych o charakterze jednoznacznie seksualnym odnoszących się do nieletnich, które następnie zapisywał na swoim komputerze” – twierdzi Departament Sprawiedliwości. Anderegg został aresztowany po tym, jak federalna wielka ława przysięgłych zwróciła akt oskarżenia.

„Dzisiejsze oświadczenie wysyła jasny komunikat: wykorzystywanie sztucznej inteligencji do tworzenia wizerunków dzieci o charakterze jednoznacznie seksualnym jest nielegalne, a Departament Sprawiedliwości nie zawaha się pociągnąć do odpowiedzialności osób, które posiadają, produkują lub rozpowszechniają materiały przedstawiające seksualne wykorzystywanie dzieci generowane przez sztuczną inteligencję” – główny zastępca asystenta – oświadczyła prokurator generalna Nicole Argentieri.

Zgodnie z prawem federalnym generowane komputerowo materiały przedstawiające wykorzystywanie seksualne dzieci (CSAM), „nieodróżnialne od rzeczywistego nieletniego”, są nielegalne, mimo że przedstawiony nieletni nie jest prawdziwą osobą. Mimo to sprawa przeciwko Andereggowi może przetestować amerykańskie prawo. Z dokumentów sądowych wynika, że ​​Andereggowi nie postawiono zarzutów na podstawie amerykańskiego kodeksu, który wyraźnie zabrania wykorzystywania seksualnego dzieci. Mimo to prokuratorzy twierdzą, że jego zachowanie – generowanie AI CSAM i udostępnianie treści w internecie, w tym udostępnianie 15-latce– jest równoznaczne z posiadaniem i przekazywaniem CSAM.