Popularne narzędzia mogą sprzedawać dane użytkowników o opiniach i preferencjach

Sztuczna inteligencja (AI) może wkrótce wejść na zupełnie nowy poziom interakcji z użytkownikami, wykorzystując ogromne ilości danych do przewidywania i potencjalnego wpływania na ludzkie decyzje. Badanie przeprowadzone przez University of Cambridge ostrzega, że rozwój tej technologii może doprowadzić do powstania tzw. „gospodarki intencji” – nowego rynku, który bazuje na analizie i wykorzystaniu „cyfrowych sygnałów intencji”.

Nowa era danych: „Gospodarka intencji”

Opublikowane przez naukowców z Leverhulme Centre for the Future of Intelligence (LCFI) badanie opisuje gospodarkę intencji jako potencjalnego następcę obecnej „gospodarki uwagi”, która jest fundamentem działania mediów społecznościowych. W gospodarce uwagi celem platform jest przyciągnięcie i utrzymanie użytkowników, co pozwala na kierowanie do nich reklam. Gospodarka intencji mogłaby jednak sięgać głębiej, analizując dane z bezpośrednich interakcji użytkowników z narzędziami AI, takimi jak chatboty czy wirtualni asystenci.

Narzędzia AI mogą być wykorzystywane do sterowania ludzkimi intencjami.

Naukowcy podkreślają, że dane te mogą obejmować nie tylko preferencje zakupowe, ale również bardziej osobiste aspekty, takie jak emocje, obawy, pragnienia czy wartości użytkowników. „Cyfrowe sygnały intencji” mogłyby być wykorzystywane nie tylko do tworzenia spersonalizowanych reklam, ale również do subtelnego wpływania na decyzje konsumentów, na przykład przez chatboty sugerujące produkty lub usługi w oparciu o emocjonalne rozmowy.

Zasoby danych w rękach AI

Chatboty takie jak ChatGPT, Gemini czy Copilot gromadzą ogromne ilości danych podczas rozmów z użytkownikami. W badaniu wskazano, że te informacje – obejmujące opinie, wartości czy styl komunikacji – mogą być wykorzystywane w sposób, który wpłynie na ludzkie intencje. Przykładem może być sugestia chatbota: „Wspomniałeś, że czujesz się przepracowany – czy mam zarezerwować ci bilet na film, o którym rozmawialiśmy?”.

Jak zaznaczono w artykule, AI mogłaby również tworzyć szczegółowe profile psychologiczne użytkowników, uwzględniające ich poglądy polityczne, rytm życia, słownictwo czy preferencje zakupowe. Dane te mogłyby następnie trafiać do reklamodawców, którzy na ich podstawie projektowaliby wysoce spersonalizowane kampanie marketingowe.

Nowe zagrożenia dla wolności i wyborów

Dr Jonnie Penn, historyk technologii z LCFI, ostrzega przed potencjalnymi konsekwencjami gospodarki intencji. Jak podkreślił w rozmowie z The Guardian, taka zmiana mogłaby wpłynąć na fundamentalne aspekty społeczeństwa, takie jak wolność wyboru, niezależność prasy czy uczciwa konkurencja rynkowa. „Powinniśmy już teraz zastanowić się nad skutkami takiego rynku, zanim staniemy się ofiarami jego niezamierzonych konsekwencji” – zaznaczył Penn.

Choć badanie maluje ponurą wizję przyszłości, naukowcy zauważają, że coraz więcej rządów podejmuje działania mające na celu ograniczenie dostępu firm AI do prywatnych danych użytkowników. Wprowadzenie ścisłych regulacji może powstrzymać najgroźniejsze scenariusze przedstawione w badaniu i stworzyć bardziej zrównoważone podejście do rozwoju technologii AI.

Czy gospodarka intencji stanie się rzeczywistością? Naukowcy z Cambridge podkreślają, że rozwój AI wciąż jest w dużej mierze kształtowany przez decyzje podejmowane dziś – zarówno przez firmy, jak i regulatorów. Nadchodzące lata pokażą, czy technologie te będą służyć wyłącznie komercyjnym interesom, czy też zostaną wykorzystane w sposób, który wzbogaci życie użytkowników, zamiast nimi manipulować.