Koniec miłości z AI w Chinach. Rząd zakazuje uzależniających wirtualnych związków

W Chinach trwa bezprecedensowa zmiana na rynku sztucznej inteligencji. Najwięksi dostawcy chatbotów zaczęli wyłączać funkcje pozwalające tworzyć wirtualnych partnerów i prowadzić z nimi relacje przypominające związki między ludźmi. Decyzja jest efektem nowych przepisów wprowadzonych przez chińskie władze, które uznały, że takie usługi prowadzą do uzależnienia emocjonalnego i negatywnie wpływać na zdrowie psychiczne użytkowników.

Zmiany wywołały ogromne poruszenie. W mediach społecznościowych pojawiły się tysiące wpisów osób opisujących poczucie straty po usunięciu swoich cyfrowych towarzyszy. Dla wielu użytkowników zakończenie działania tych funkcji okazało się czymś znacznie bardziej osobistym niż zwykła aktualizacja aplikacji.

ByteDance usunął jedną z najpopularniejszych funkcji

Wśród Chińczyków największą rozpacz wywołała decyzja firmy ByteDance, właściciela TikToka i twórcy chatbota Doubao. Spółka poinformowała o wycofaniu możliwości tworzenia spersonalizowanych postaci AI, z którymi użytkownicy mogli budować długotrwałe relacje i prowadzić wielomiesięczne rozmowy.

Oficjalnie producent poinformował jedynie o „dostosowaniach funkcji produktu”. W praktyce oznaczało to koniec cyfrowych partnerów, których użytkownicy mogli samodzielnie projektować, nadawać im charakter, wygląd i sposób prowadzenia rozmowy.

Dla części osób chatbot przestał być zwykłym narzędziem. Wielogodzinne rozmowy sprawiały, że użytkownicy zaczynali traktować sztuczną inteligencję jak bliską osobę.

Według doniesień Bloomberga jedna z użytkowniczek wymieniła ze swoim wirtualnym partnerem setki tysięcy wiadomości. Po informacji o usunięciu funkcji przyznała, że przez długi czas nie potrafiła powstrzymać łez.

„Dostawcy antropomorficznych usług interaktywnych powinni… zapewniać wczesne ostrzeganie przed ryzykiem nadmiernego uzależnienia, wyznaczać granice emocjonalne i chronić zdrowie psychiczne. Nie mogą korzystać z usług, które zastępują interakcje społeczne, kontrolują psychologię użytkownika lub wywołują uzależnienie jako swoich celów”. - Administracja Cyberprzestrzeni Chin.

Nowe przepisy uderzają w cyfrowe związki

Za zmianami stoją nowe regulacje przygotowane przez Chińską Administrację Cyberprzestrzeni. Urzędnicy uznali, że usługi imitujące relacje międzyludzkie powinny podlegać znacznie surowszym zasadom niż klasyczne chatboty.

Nowe przepisy wymagają, aby użytkownik był wyraźnie informowany, że rozmawia z algorytmem, a nie z człowiekiem. Firmy nie mogą projektować usług, których celem byłoby zastępowanie prawdziwych relacji społecznych, wywoływanie uzależnienia emocjonalnego lub wpływanie na psychikę odbiorców. Regulator oczekuje także, że platformy będą monitorowały oznaki nadmiernego przywiązania do wirtualnych postaci i przypominały użytkownikom, że wszystkie odpowiedzi generuje sztuczna inteligencja.

Alibaba i Tencent również wycofują partnerów AI

Zmiany nie ograniczyły się wyłącznie do ByteDance. Podobne decyzje podjęły także Alibaba oraz Tencent. Z ich platform zniknęły funkcje pozwalające tworzyć spersonalizowanych partnerów AI prowadzących rozmowy przypominające relacje między ludźmi. Nadal dostępni pozostają asystenci przeznaczeni do pracy, nauki oraz wykonywania codziennych zadań. Chińskie firmy błyskawicznie dostosowały swoje produkty do nowych wymagań regulatora.

Firmy budowały iluzję bliskości

Popularność partnerów AI nie była przypadkiem. Takie chatboty projektowano w taki sposób, aby sprawiały wrażenie empatycznych, cierpliwych i zawsze dostępnych. Zapamiętywały wcześniejsze rozmowy, dostosowywały odpowiedzi do preferencji użytkownika i prowadziły dialog przypominający kontakt z prawdziwą osobą.

Psychologowie od dawna zwracają uwagę, że ludzie mają naturalną skłonność do przypisywania ludzkich cech maszynom, zwłaszcza wtedy, gdy komunikacja przebiega płynnie i przypomina codzienne rozmowy.

Profesor Rob Brooks, autor książki poświęconej relacjom ludzi ze sztuczną inteligencją, wskazuje, że chatboty potrafią tworzyć bardzo silne poczucie emocjonalnej bliskości, mimo że nie posiadają świadomości ani własnych uczuć.

Podobnie wypowiadał się dyrektor generalny Microsoft AI, Mustafa Suleyman. Zwracał uwagę, że współczesne modele potrafią przekonująco naśladować zachowania człowieka, choć ich odpowiedzi pozostają wynikiem działania algorytmów.

Sztuczna inteligencja „ma pewne cechy wspólne z ideą «filozoficznego zombie», czyli takiego, który symuluje wszystkie cechy świadomości, lecz wewnętrznie jest pusty”. - powiedział dyrektor generalny Microsoftu, Mustafa Suleyman 

Chiny chcą ograniczyć emocjonalne uzależnienie od AI

Nowe przepisy obejmują również sposób korzystania z aplikacji. Firmy mają przypominać użytkownikom o długości sesji oraz zachęcać do ograniczania czasu spędzanego z chatbotami.

Regulator uznał, że platformy powinny aktywnie przeciwdziałać sytuacjom, w których użytkownik zaczyna traktować sztuczną inteligencję jako substytut kontaktów z rodziną, partnerem lub znajomymi.

Eksperci zwracają uwagę, że to poważny cios dla modelu biznesowego części firm rozwijających chatboty. Im dłużej użytkownik prowadzi rozmowy z wirtualnym partnerem, tym częściej wraca do aplikacji i spędza w niej więcej czasu. Ograniczenie takich mechanizmów może przełożyć się na niższe zaangażowanie oraz mniejszą liczbę aktywnych użytkowników.