Meta zbiera nie tylko kliknięcia. AI rejestruje maile, historię przeglądania i aktywność pracowników

Meta po raz kolejny znalazła się w ogniu dyskusji dotyczących prywatności. Tym razem nie chodzi jednak o dane użytkowników Facebooka czy Instagrama. Kontrowersje wywołał wewnętrzny projekt związany z rozwojem sztucznej inteligencji, który według ujawnionych dokumentów monitoruje niemal każdy aspekt pracy zatrudnionych osób.

Z informacji ujawnionych przez Reutersa wynika, że narzędzie wykorzystywane przez Meta do trenowania nowych modeli AI zbiera znacznie więcej informacji, niż początkowo sugerowano. Oprócz ruchów myszy i kliknięć system ma rejestrować historię przeglądania, aktywność w schowku systemowym, zmiany w kodzie, a nawet treści komunikacji prowadzonej przez pracowników.

AI uczy się od pracowników

Projekt funkcjonuje pod nazwą Model Capability Initiative (MCI). Jego celem jest stworzenie agentów sztucznej inteligencji zdolnych do samodzielnego wykonywania złożonych zadań cyfrowych.

Meta chce nauczyć swoje modele nie tylko odpowiadania na polecenia użytkownika, ale również wykonywania całych sekwencji działań. Mowa o samodzielnym poruszaniu się po aplikacjach, wyszukiwaniu informacji, kopiowaniu danych, wypełnianiu formularzy czy obsłudze narzędzi wykorzystywanych w codziennej pracy biurowej.

Do takiego treningu potrzebne są jednak ogromne ilości danych pokazujących, jak ludzie faktycznie korzystają z komputerów. Właśnie dlatego MCI analizuje aktywność w ponad 200 aplikacjach i serwisach internetowych używanych przez pracowników firmy.

Według dokumentów, do których dotarł Reuters, zakres monitoringu może być znacznie szerszy niż standardowa telemetria.

Nie tylko kliknięcia. System ma widzieć niemal wszystko

Największe kontrowersje budzą informacje dotyczące przechwytywania komunikacji. Wewnętrzne materiały wskazują, że system może rejestrować wiadomości e-mail oraz rozmowy prowadzone przez pracowników z USA. Dotyczy to również sytuacji, gdy po drugiej stronie znajduje się osoba pracująca poza Stanami Zjednoczonymi.

Meta przyznała w swoim wewnętrznym FAQ, że aktywność związana z komunikacją może zostać zarejestrowana przez narzędzie podczas korzystania z poczty elektronicznej lub komunikatorów firmowych. Rzecznik firmy Dave Arnold podkreśla jednak, że celem projektu nie jest analiza treści rozmów. Według stanowiska Meta system koncentruje się na sposobie korzystania z aplikacji i zachowaniach użytkowników podczas pracy.

Nie wszyscy pracownicy są jednak przekonani do takiej interpretacji.

Z relacji osób związanych z firmą wynika, że MCI może tworzyć wyjątkowo szczegółowy zapis codziennej aktywności. Wśród zbieranych informacji mają znajdować się historia odwiedzanych stron internetowych, działania wykonywane w schowku systemowym, momenty usypiania urządzenia czy szczegóły pracy nad projektami programistycznymi. Dla wielu osób brzmi to bardziej jak zaawansowany system monitorowania niż klasyczne narzędzie badawcze.

Dane te zostały pierwotnie zebrane w celu komunikacji służbowej i realizacji umowy o pracę. Przechwycenie rozmowy pracownika i włączenie jej do modelu sztucznej inteligencji jest niezgodne z tym pierwotnym celem” – powiedziała agencji Reuters Kleanthi Sardeli, ekspertka prawna z grupy NOYB zajmującej się ochroną prywatności.

Pracownicy zauważyli jeszcze jeden problem

Wątpliwości pojawiły się również wokół sposobu działania samego oprogramowania. Część pracowników miała zauważyć gwałtowny wzrost transferu danych po instalacji MCI. Według wewnętrznych relacji w niektórych przypadkach narzędzie zużywało tak dużo danych, że wyczerpywało miesięczne limity domowego internetu w ciągu zaledwie kilku dni. Takie sygnały sugerują, że system może nieustannie przesyłać duże ilości informacji do infrastruktury Meta.

Firma nie odniosła się szczegółowo do tych doniesień, natomiast stanowczo zakwestionowała część zarzutów pojawiających się w wewnętrznych dyskusjach.

Europa może przyjrzeć się sprawie bardzo dokładnie

Projekt budzi zainteresowanie również poza Stanami Zjednoczonymi. Eksperci zajmujący się ochroną prywatności zwracają uwagę na możliwe konsekwencje związane z europejskimi regulacjami dotyczącymi danych osobowych. Szczególne znaczenie ma sytuacja, w której komunikacja pracowników z Europy trafiałaby do systemów szkoleniowych wykorzystywanych przez Meta. Prawnicy zajmujący się ochroną danych wskazują, że informacje zebrane pierwotnie do realizacji obowiązków służbowych nie zawsze mogą zostać później wykorzystane do trenowania modeli sztucznej inteligencji.

Według ekspertów kluczowe będzie ustalenie, czy dane służące do komunikacji zawodowej są wykorzystywane zgodnie z pierwotnym celem ich zebrania. Meta poinformowała irlandzki organ nadzorczy odpowiedzialny za ochronę danych, że pozyskiwanie informacji od pracowników z Unii Europejskiej nie stanowi głównego celu projektu. Firma nie ujawniła jednak szczegółów dotyczących procedur stosowanych w przypadku przypadkowego przechwycenia takich danych.

Sztuczna inteligencja ma przejąć kolejne zadania

Cała inicjatywa pokazuje, jak ambitne są plany Meta dotyczące automatyzacji pracy. Firma rozwija technologie, które mają wykonywać coraz bardziej złożone zadania bez udziału człowieka. Przyszłe systemy AI mają nie tylko odpowiadać na pytania, ale również samodzielnie obsługiwać aplikacje, przetwarzać dokumenty, zarządzać procesami biznesowymi i realizować wieloetapowe polecenia.

Do stworzenia takich rozwiązań potrzebne są jednak ogromne ilości danych pokazujących prawdziwe zachowania użytkowników. Właśnie dlatego projekty podobne do MCI stają się tak cenne dla gigantów technologicznych. Jednocześnie pojawia się pytanie, gdzie kończy się analiza sposobu pracy, a zaczyna masowe gromadzenie danych o pracownikach.