Pytasz ChatGPT o romanse lub aborcję? Marketerzy wszystko widzą

Rozszerzenia przeglądarek mogą przekazywać treści rozmów z chatbotami do zewnętrznych firm analitycznych. Dane te trafiają następnie do podmiotów zajmujących się handlem informacjami rynkowymi, które sprzedają je klientom korporacyjnym w formie raportów o trendach w zapytaniach użytkowników. Z badań wynika, że część przechwyconych konwersacji obejmuje tematy bardzo osobiste, dotyczące zdrowia, życia intymnego i sytuacji prawnej.

Firma Profound, działająca w Nowym Jorku, uruchomiła usługę Prompt Volumes. Pozwala ona klientom sprawdzać, o co użytkownicy pytają najpopularniejsze chatboty, w tym ChatGPT, Google Gemini i Claude firmy Anthropic. Dane mają charakter anonimowy, lecz ujawnione zapytania pokazują, że dotyczą one często tematów wrażliwych – od testów na HIV po kwestie imigracyjne.

Użytkownicy zazwyczaj zakładają, że ich rozmowy z chatbotami są prywatne. Profound zapewnia, że nie przechowuje informacji pozwalających zidentyfikować konkretną osobę. Dane są rzekomo „oczyszczane” i agregowane, zanim trafią do klientów. Jednak eksperci ds. prywatności podkreślają, że z kontekstu zapytań często można odtworzyć szczegóły tożsamości.

Anonimowe dane, realne ryzyko

Lee Dryburgh, założyciel firmy konsultingowej Contestra, ostrzega, że użytkownicy nie zdają sobie sprawy z tego, jak ich zapytania mogą być przechwytywane. Wskazuje na możliwość, że dane pochodzą z rozszerzeń przeglądarki, które mają dostęp do zawartości otwartych kart. Wiele takich wtyczek, często reklamowanych jako narzędzia do zwiększania produktywności, uzyskuje uprawnienia do odczytywania wszystkich danych z przeglądarki, w tym z rozmów prowadzonych w ChatGPT.

Firma Profound nie ujawniła, w jaki sposób dokładnie pozyskuje swoje dane. Na swojej stronie internetowej podaje jedynie, że licencjonuje rozmowy z „paneli konsumenckich”, złożonych z użytkowników, którzy mieli wyrazić zgodę na analizę swoich konwersacji. Nie przedstawiono jednak sposobu, w jaki ta zgoda jest egzekwowana ani jak użytkownicy mogą ją cofnąć.

Brokerzy danych w cieniu

W tle całej sprawy pojawiają się inne firmy z branży analitycznej, takie jak Semrush czy Datos. W przeszłości publikacje Semrush wskazywały, że Profound korzysta z ich zasobów danych, zbieranych m.in. za pośrednictwem rozszerzeń przeglądarek. Po nagłośnieniu sprawy wzmianki o Profound zniknęły jednak z oficjalnych materiałów.

Datos utrzymuje, że jej działalność jest zgodna z przepisami RODO i CCPA, a wszystkie dane są anonimowe. Firma twierdzi, że systemy filtrujące automatycznie usuwają wszelkie dane osobowe, zanim trafią na serwery. Nie wyjaśniła jednak, jak użytkownicy są informowani o tym, że ich dane mogą być wykorzystywane do analiz.

Eksperci: prywatność w AI to iluzja

Specjaliści z Electronic Frontier Foundation podkreślają, że pytania kierowane do chatbotów często odsłaniają najgłębsze problemy użytkowników. Zawierają treści, których nikt nie przekazałby publicznie, dlatego handel takimi danymi jest wyjątkowo ryzykowny.

Lena Cohen z EFF zwraca uwagę, że pojęcie „anonimizacji” jest nadużywane. Wiele firm utrzymuje, że anonimizuje dane, mimo że w praktyce możliwe jest ich ponowne powiązanie z konkretnymi osobami. Według Cohen, w świecie, gdzie dane są odsprzedawane między setkami brokerów, nie istnieje skuteczny sposób, by użytkownik mógł śledzić, kto ma dostęp do jego informacji i w jakim celu.

Profound broni się przed krytyką

Profound odrzuca zarzuty o nadużycia i twierdzi, że dane pochodzą wyłącznie z legalnych źródeł. Firma podkreśla, że jej działalność nie różni się od klasycznych paneli badania rynku znanych z ery telewizji. W oświadczeniu przesłanym do mediów zaznaczono, że Profound nie gromadzi danych bezpośrednio, a jedynie licencjonuje je od „uznanych dostawców”.

Jednocześnie przedsiębiorstwo zagroziło podjęciem kroków prawnych wobec Dryburgha po jego publicznej krytyce. W liście wysłanym przez prawników zażądano usunięcia wpisów z LinkedIna, w których wskazywał na możliwe naruszenia prywatności.

Analiza rozszerzeń przeglądarki

Zespół badawczy Georgia Tech pod kierownictwem Franka Li opracował system Arcanum, który analizuje rozszerzenia w Chrome Web Store pod kątem nieautoryzowanego zbierania danych. Z jego raportu wynika, że ponad trzy tysiące wtyczek rejestruje aktywność użytkownika w internecie, a część z nich potrafi przechwytywać treści rozmów z ChatGPT.

Badacze odkryli siedemnaście rozszerzeń, które bezpośrednio kopiowały monity lub odpowiedzi generowane przez chatboty. Większość z nich miała niewielką liczbę użytkowników, ale niektóre przekroczyły tysiąc instalacji. Choć Arcanum nie potrafiło przeanalizować wszystkich dostępnych wtyczek, wyniki sugerują, że wrażliwe dane mogły trafiać do zewnętrznych serwerów bez wiedzy użytkowników.

Coraz cieńsza granica prywatności

Zaufanie do chatbotów i narzędzi opartych na sztucznej inteligencji rośnie, lecz wraz z nim rośnie ryzyko utraty kontroli nad prywatnymi informacjami. Profound nie jest jedynym podmiotem analizującym trendy w zapytaniach AI, ale jego działalność obnaża skalę problemu – konwersacje z pozoru prowadzone w zamkniętym oknie czatu mogą stać się towarem handlowym.

Nie ma pewności, czy OpenAI lub inne firmy udostępniają jakiekolwiek dane tym pośrednikom. Faktem pozostaje, że dane pochodzące z rozmów z chatbotami można przechwycić już na poziomie przeglądarki, zanim trafią do serwerów.