Chatboty nie są przyjaciółmi, a Copilot to szpieg. Szefowa Signala ostro o AI

Sztuczna inteligencja coraz śmielej wkracza do codziennego życia. Najwięksi gracze technologiczni przekonują, że już wkrótce cyfrowi asystenci będą zarządzać naszym kalendarzem, robić zakupy, odpowiadać na wiadomości i organizować niemal każdy element dnia. Nie wszyscy jednak patrzą na tę wizję z entuzjazmem. Meredith Whittaker, prezes komunikatora Signal, bije na alarm i ostrzega, że oddawanie AI dostępu do prywatnych danych może mieć bardzo wysoką cenę.

W rozmowie z Bloombergiem szefowa Signala stwierdziła wprost, że chatboty oparte na sztucznej inteligencji „nie są naszymi przyjaciółmi” i nie powinny być traktowane jak zaufani rozmówcy. Jej zdaniem rozwój agentów AI może doprowadzić do powstania niespotykanej dotąd infrastruktury nadzoru.

„Chatbot nie jest świadomą istotą”

Whittaker sprzeciwia się rosnącej modzie na antropomorfizowanie systemów AI. Coraz więcej użytkowników prowadzi z chatbotami długie rozmowy, zwierza się im ze swoich problemów, a niektórzy zaczynają traktować je jak cyfrowych towarzyszy.

Zdaniem szefowej Signala to niebezpieczny kierunek.

Jak podkreśliła, chatboty nie są świadomymi bytami ani partnerami do rozmowy. To systemy analizujące ogromne ilości danych i przewidujące najbardziej prawdopodobne odpowiedzi. Według Whittaker użytkownicy często zapominają o tej podstawowej różnicy, powierzając sztucznej inteligencji wyjątkowo wrażliwe informacje.

Prezes Signala przyznała, że sama sporadycznie korzysta z narzędzi AI do prostych zadań związanych z formatowaniem dokumentów. Jednocześnie unika wykorzystywania chatbotów do rozwijania własnych pomysłów czy prowadzenia analiz. Whittaker uważa, że proces twórczy i samodzielne myślenie nie powinny być zastępowane odpowiedziami generowanymi przez modele językowe.

„ Bardzo poważnie podchodzę do swojego myślenia i pisania i nie chcę, aby proces realizacji pomysłu został zablokowany lub przyćmiony przez reakcję systemu, który uśrednia to, co już istnieje ” 

Copilot jako „tylne wejście” do prywatności

Najostrzejsza krytyka dotyczy agentów AI rozwijanych przez największe firmy technologiczne. Szczególnie mocno Whittaker odniosła się do wizji promowanej przez Microsoft, zgodnie z którą Copilot miałby przejąć wiele codziennych obowiązków użytkownika. Scenariusz zakłada między innymi automatyczne robienie zakupów, planowanie spotkań czy komunikowanie się z rodziną w imieniu właściciela konta.

Według Whittaker realizacja takiej wizji wymagałaby przekazania systemowi dostępu do praktycznie całego cyfrowego życia użytkownika. Agent AI musiałby otrzymać uprawnienia do odczytywania wiadomości, korzystania z przeglądarki, obsługi kart płatniczych, dostępu do kalendarza, kontaktów i danych adresowych.

Szefowa Signala określiła taki poziom integracji mianem „tylnych drzwi”. Jej zdaniem system dysponujący tak szerokimi uprawnieniami staje się potencjalnym zagrożeniem dla prywatności użytkowników.

Czy szyfrowanie przestanie mieć znaczenie?

Whittaker od lat należy do najgłośniejszych obrońców szyfrowanej komunikacji. Signal wykorzystuje jedno z najpopularniejszych rozwiązań szyfrujących na świecie. Ten sam protokół stosowany jest także przez WhatsApp.

Zdaniem prezes Signala agentowa sztuczna inteligencja stoi w sprzeczności z ideą pełnego szyfrowania wiadomości. Nawet jeśli dane są zabezpieczone podczas przesyłania, agent działający na urządzeniu użytkownika może odczytać treść wiadomości przed zaszyfrowaniem lub po odszyfrowaniu.

W praktyce oznacza to, że prywatna komunikacja może stać się dostępna dla systemu AI posiadającego odpowiednie uprawnienia systemowe.

Whittaker ostrzega również przed nowymi metodami ataków. Szczególne obawy budzą tzw. ataki typu prompt injection, podczas których cyberprzestępcy manipulują agentem AI i nakłaniają go do wykonywania niepożądanych działań.

Giganci technologiczni stawiają na agentów AI

Mimo obaw zgłaszanych przez ekspertów branża technologiczna wyraźnie obrała kierunek rozwoju oparty na agentach sztucznej inteligencji. Microsoft rozwija projekt Solara, który zakłada głęboką integrację AI z systemem operacyjnym Windows. Podobne rozwiązania przygotowują także Google, Apple oraz OpenAI.

Nowa generacja asystentów ma stać się pośrednikiem pomiędzy użytkownikiem a urządzeniem. To właśnie agent AI miałby wykonywać większość codziennych zadań i podejmować działania w imieniu właściciela.

Whittaker uważa jednak, że taka architektura prowadzi do tworzenia ogromnych baz danych obejmujących praktycznie całe cyfrowe życie użytkownika. Takie zasoby mogą stać się niezwykle atrakcyjnym celem zarówno dla cyberprzestępców, jak i instytucji państwowych.

Wygoda kontra prywatność

Zdaniem szefowej Signala dyskusja o sztucznej inteligencji coraz częściej sprowadza się do prostego wyboru. Użytkownicy otrzymują wygodę i automatyzację codziennych czynności, ale w zamian muszą przekazać firmom technologicznym dostęp do najbardziej osobistych informacji.

Whittaker przekonuje, że wiele osób nie zdaje sobie sprawy ze skali tej wymiany. Jej zdaniem przyszłość oparta na wszechobecnych agentach AI nie jest nieunikniona, a użytkownicy powinni dokładnie zastanowić się, ile prywatności są gotowi poświęcić w zamian za cyfrową wygodę.