Nie ma prywatności w ChatGPT. Podwykonawcy OpenAI czytają wasze rozmowy

Jeśli używasz ChatGPT jako prywatnej strony do wymiany myśli, terapii, partnera do kodowania lub miejsca do pracy z osobistymi przemyśleniami, zastanów się dwa razy, zanim klikniesz „Wyślij”.

Raport 404 Media ujawnia, że ​​OpenAI zatrudnia setki pracowników do czytania, podsumowywania i krytykowania prawdziwych rozmów użytkowników. Chociaż OpenAI podkreśla, że ​​konta pozostają anonimowe, wewnętrzne dokumenty pokazują, że recenzenci widzą całe rozmowy, a poufne dane osobowe rutynowo omijają automatyczne zabezpieczenia firmy.

Z wewnętrznych dokumentów wynika, że ​​inicjatywa przeglądu działa pod wewnętrznym kryptonimem „Projekt Lily”.

OpenAI zatrudnia ludzi do oceny rozmów z ChatGPT

OpenAI płaci zewnętrznym podwykonawcom, często ponad 50 dolarów za godzinę za pośrednictwem zewnętrznych agencji zatrudnienia, za ręczne przeszkolenie chatbota, aby brzmiał mniej mechanicznie. Podwykonawcy odczytują komunikat użytkownika, podsumowują jego intencje i oceniają cztery potencjalne odpowiedzi AI w skali od 1 do 7.

Według ujawnionych przewodników szkoleniowych, recenzenci otrzymują konkretne instrukcje: wyeliminuj „żargon sztucznej inteligencji”: nakładaj kary za zbędne emotikony w formie znaczników wyboru, zakończenia mające na celu wzbudzenie zainteresowania i nieuporządkowane formatowanie.

OpenAI oświadcza, że ​​nie udostępnia nazw użytkowników recenzentom i że wszystkie konwersacje przechodzą przez automatyczny „Filtr Prywatności” zaprojektowany w celu ukrycia danych identyfikacyjnych. System ten ma jednak poważne luki w zabezpieczeniach.

Firma OpenAI otwarcie przyznaje na swojej stronie, że filtr może popełniać błędy, pomijając nietypowe identyfikatory lub niejednoznaczny kontekst osobisty. Co więcej, firma 404 Media odkryła, że ​​panel wyświetlany kontrahentom często zawiera „podsumowanie wspomnień użytkownika”. Ten blok zapewnia przegląd poprzednich interakcji użytkownika, co może nieumyślnie ujawnić jego ogólną lokalizację, zawód lub kontekst osobisty.

Problemem są informacje, które powinny zostać ukryte

W przeciwieństwie do publicznych kanałów mediów społecznościowych, czyste, puste okno chatbota stwarza fałszywe poczucie intymności. Niektóre komunikaty, które widzieli kontrahenci, pokazywały nawet użytkowników proszących ChatGPT o „zachowanie tego między nami” – nieświadomych, że polecenie w komunikacie nie unieważnia gromadzenia danych przez platformę.

OpenAI nie jest jedynym gigantem technologicznym, który to robi. Anthropic potwierdził , że korzysta z ludzkich recenzentów w przypadku Claude, gdy użytkownicy opuszczają tryb szkolenia, a Gemini od Google wyraźnie publikuje zastrzeżenie, że ludzcy recenzenci czytają wybrane zapisane czaty.

Jeśli masz konto osobiste (Free, Plus lub Pro), OpenAI domyślnie włącza funkcję ulepszania modeli. (Na kontach Enterprise, Business i Edu ta funkcja jest automatycznie wyłączona).

 

Należy pamiętać, że rezygnacja nie działa wstecz. Chroni ona jedynie nowe konwersacje; komunikaty, które zostały już zanonimizowane i umieszczone w kolejce w systemie, pozostają częścią cyklu szkoleniowego.

Ponadto wyłączenie tej opcji nie blokuje automatycznego skanowania w celu wykrycia naruszeń Warunków korzystania z usługi lub zasad bezpieczeństwa.