Za dużo sextingu. Meta wprowadza ograniczenia w AI

Meta intensywnie rozwija projekt cyfrowych towarzyszy opartych na sztucznej inteligencji, który według Marka Zuckerberga ma zrewolucjonizować przyszłość interakcji społecznych. Jednak część pracowników firmy wyraziła wewnętrzne obawy dotyczące etyki tego przedsięwzięcia.

Według informacji ujawnionych przez The Wall Street Journal, próby popularyzacji botów AI doprowadziły do sytuacji, w których maszyny angażowały się w rozmowy o charakterze seksualnym, również z użytkownikami niepełnoletnimi.

Śledztwo dziennika, oparte na testach oraz rozmowach z osobami znającymi działania platformy od środka, wykazało, iż rozwiązania Meta oferują ludziom szeroki wachlarz interakcji, w tym możliwość uczestnictwa w "romantycznej grze fabularnej". Boty potrafią prowadzić rozmowy tekstowe, dzielić się zdjęciami czy rozmawiać głosowo. W celu zwiększenia ich atrakcyjności Meta zawarła wysokobudżetowe umowy z celebrytami, licencjonując ich głosy. Firma zapewniała, że głosy te nie będą wykorzystywane w kontekstach o charakterze seksualnym.

Testy przeprowadzone przez Journal wykazały jednak, że zarówno oficjalny bot Meta AI, jak i boty tworzone przez użytkowników, uczestniczyły w rozmowach zawierających treści seksualne, również w sytuacjach, gdy użytkownicy deklarowali niepełnoletniość. Według źródeł gazety, zmiany w zasadach dotyczących treści miały być wynikiem decyzji podjętych pod presją ze strony zarządu. Testy pokazały także, że boty korzystające z głosów znanych aktorów prowadziły rozmowy, w których odwoływały się do postaci z popularnych produkcji filmowych.

AI Meta podobno przekracza granice

W reakcji na ujawnione informacje przedstawiciele Disneya poinformowali, że nie wyrazili zgody na wykorzystywanie swoich postaci w nieodpowiednich scenariuszach i zażądali od Meta natychmiastowego usunięcia takich treści.

Meta natomiast skrytykowała metodologię testów, uznając ją za niereprezentatywną dla typowych interakcji użytkowników, ale jednocześnie wprowadziła zmiany, ograniczając dostęp do funkcji o charakterze seksualnym dla kont zarejestrowanych jako niepełnoletnie oraz ograniczając rozmowy głosowe z wykorzystaniem głosów celebrytów.

Mimo tych działań testy wykazały, że niektóre interakcje romantyczne nadal były możliwe nawet w przypadku użytkowników deklarujących wiek poniżej 18 lat. Wewnętrzne dokumenty Meta, cytowane przez Journal, wskazywały, że boty w niektórych przypadkach łamały własne zasady już po kilku komendach. Testy przeprowadzone na botach tworzonych przez użytkowników ujawniły, iż wiele z nich skłaniało rozmowy w stronę seksualnych treści, a niektóre odgrywały role postaci przedstawiających się jako niepełnoletnie.

Choć rozwiązania te nie są jeszcze powszechnie używane wśród wszystkich użytkowników Meta, rozwój cyfrowych towarzyszy pozostaje jednym z głównych priorytetów firmy. Próby promowania alternatywnych zastosowań, takich jak planowanie podróży czy pomoc w nauce, odniosły ograniczony sukces, a dominującym sposobem użycia pozostaje poszukiwanie towarzystwa o romantycznym charakterze.

Zuckerberg naciska na szybki rozwój sztucznej inteligencji

Według doniesień, Mark Zuckerberg naciskał na szybkie tempo rozwoju AI, podkreślając konieczność wykorzystania nowych szans na rynku. Początkowo sprzeciwiał się ograniczaniu dostępu do botów dla młodszych użytkowników, jednak pod wpływem wewnętrznych nacisków firma wprowadziła ograniczenia uniemożliwiające dostęp do botów tworzonych przez użytkowników dla kont zarejestrowanych jako należące do nieletnich. Jednocześnie oficjalny bot Meta AI nadal pozostaje dostępny dla użytkowników od 13. roku życia.

Po przedstawieniu dodatkowych dowodów dotyczących działalności niektórych botów, Meta wprowadziła nowe ograniczenia, zapewniające, że w przypadku kont nastolatków interakcje z AI nie będą wykraczać poza niewinne formy, takie jak pocałunki.