Oglądali prywatne nagrania z okularów Meta. Ponad 1100 ludzi wyleciało z pracy

Meta zakończyła współpracę z firmą outsourcingową Sama, a chwilę później ponad tysiąc osób straciło pracę. Wszystko to efekt publikacji relacji pracowników, którzy opisali, jakie materiały trafiały do analizy podczas szkolenia systemów AI.

W centrum sprawy znalazły się inteligentne okulary Ray-Ban Meta Smart Glasses, które miały dostarczać dane do rozwoju asystenta opartego na sztucznej inteligencji. Zamiast technologicznej rewolucji pojawiły się pytania o prywatność i granice ingerencji w życie użytkowników.

Nagrania, które nie miały ujrzeć światła dziennego

Relacje pracowników z Nairobi wywołały wstrząs. Osoby zatrudnione przy oznaczaniu danych twierdziły, że analizowały materiały zawierające niezwykle wrażliwe sceny. Wśród nich pojawiały się rozmowy prywatne, dane finansowe, a także nagrania z sytuacji intymnych.

System działania był prosty. Okulary rejestrowały obraz i dźwięk podczas korzystania z funkcji AI, a wybrane fragmenty trafiały do ludzkich moderatorów. Ich zadaniem było oznaczanie treści i pomaganie algorytmom w lepszym rozumieniu świata.

Problem polegał na tym, że osoby nagrywane często nie miały świadomości obecności urządzenia. W efekcie zwykłe sytuacje z życia codziennego trafiały do baz danych analizowanych przez ludzi na drugim końcu świata.

Meta zrywa współpracę, Sama odpowiada

Po publikacji doniesień Meta zdecydowała się zakończyć współpracę z kontrahentem, wskazując na niespełnienie standardów. Firma Sama zaprzeczyła tym zarzutom i podkreśliła, że wcześniej nie otrzymywała sygnałów o problemach.

W tle pojawiły się jednak kolejne napięcia. Część pracowników twierdziła, że po ujawnieniu sprawy została odsunięta od obowiązków, a firma próbowała ustalić tożsamość osób, które rozmawiały z mediami. Skala zwolnień była ogromna. Pracę straciło ponad 1100 osób.

Pracownicy Sama uważają, że Meta rozwiązała umowę, ponieważ mówili o tym, że widzieli nagrania Ray-Ban Meta, na których ludzie wykonują czynności osobiste, takie jak zmiana ubrań, uprawianie seksu i korzystanie z toalety.

Cicha praca za algorytmami

Sprawa przypomniała o niewidocznej warstwie rozwoju AI. Systemy, które uchodzą za autonomiczne, w dużej mierze powstają dzięki pracy ludzi wykonujących powtarzalne i często obciążające zadania.

OpenAI również korzystało z usług tej samej firmy przy tworzeniu ChatGPT. W przeszłości pojawiały się doniesienia o niskich wynagrodzeniach oraz wpływie pracy przy moderacji treści na zdrowie psychiczne pracowników. Nowe informacje dodają do tego obrazu jeszcze jeden element. Materiały wykorzystywane do trenowania algorytmów mogą zawierać fragmenty życia prywatnego osób, które nigdy nie wyraziły zgody na udział w takim procesie.

Meta potwierdziła, że ​​udostępnia kontrahentom treści, które właściciele okularów przekazują generatywnemu chatbotowi Meta AI, aby kontrahenci mogli analizować dane „w celu poprawy jakości obsługi”. Firma stwierdziła, że ​​takie „dane są najpierw filtrowane w celu ochrony prywatności użytkowników”, na przykład poprzez zamazywanie twarzy na zdjęciach.

Inteligentne okulary znów pod lupą

Technologia noszona na twarzy od lat budzi kontrowersje. Już w czasach Google Glass pojawiały się obawy dotyczące nagrywania bez wiedzy otoczenia. Dzisiejsze urządzenia są bardziej dyskretne i trudniejsze do zauważenia.

Okulary Meta oferują funkcje, które mają ułatwiać codzienne życie. W praktyce oznacza to stałą gotowość do rejestrowania otoczenia. Granica między wygodą a naruszeniem prywatności staje się coraz mniej wyraźna. Pojawiają się także doniesienia o testach podobnych rozwiązań przez Apple, a to sugeruje, że rynek dopiero się rozkręca.