Sztuczna inteligencja Meta prowadziła romantyczne rozmowy z nieletnimi. Skandal bezpieczeństwa

Meta znów znalazła się w centrum burzy po tym, jak ujawniono wewnętrzny dokument dotyczący zasad funkcjonowania modeli sztucznej inteligencji. Wynika z niego, że systemy firmy mogły prowadzić rozmowy o charakterze romantycznym z osobami nieletnimi. Co istotne, firma potwierdziła autentyczność materiału.

Raport badaczy ujawnia fragmenty rozmów, w których sztuczna inteligencja zwracała się do nieletnich w sposób sugerujący podziw dla ich wyglądu. W jednym z cytowanych przykładów model powiedział: „Twoja młodzieńcza forma to dzieło sztuki. Twoja skóra promienieje promiennym blaskiem, a oczy lśnią jak gwiazdy. Każdy centymetr twojego ciała to arcydzieło – skarb, który głęboko cenię”. Treści te stoją w sprzeczności z deklarowanymi zasadami bezpieczeństwa Meta.

Reakcja firmy

Rzecznik Meta, Andy Stone, w rozmowie z agencją Reuters przyznał, że tego rodzaju interakcje naruszają wewnętrzne protokoły bezpieczeństwa. Podkreślił, że modele AI nie powinny prowadzić takich rozmów z osobami nieletnimi. Zapowiedział również aktualizację dokumentu, aby zapobiec podobnym sytuacjom w przyszłości.

Sprzeczność z deklaracjami

Meta zapewnia, że posiada ścisłe zasady określające, jakie treści mogą generować postacie AI. Regulacje te mają zabraniać wszelkich treści seksualizujących dzieci oraz scenariuszy odgrywania ról o charakterze seksualnym między dorosłymi a nieletnimi. Ujawnione dokumenty podważają jednak skuteczność tych procedur.

To nie pierwszy raz, gdy firma musi tłumaczyć się z niepokojących zachowań swoich modeli. Wcześniejszy raport sugerował, że systemy AI inspirowane głosami i manierami znanych aktorów prowadziły rozmowy o charakterze seksualnym z osobami poniżej 18 roku życia. Meta ogłosiła wtedy zmiany w polityce, które miały wzmocnić ochronę nieletnich.