ChatGPT zna twoje imię nawet jeśli mu go nie podałeś. Przerażający nowy poziom personalizacji

Użytkownicy najnowszych wersji ChatGPT od OpenAI donoszą o dziwnym i niepokojącym zjawisku: chatbot zaczął zwracać się do nich po imieniu, mimo że nie został o to poproszony – a niektórzy twierdzą wręcz, że nigdy nie udostępnili takiej informacji. 

Pierwsze doniesienia pojawiły się na platformie X, gdzie programista opublikował zrzuty ekranu, na których ChatGPT nagle używa jego imienia podczas tłumaczenia zadania matematycznego związanego z liczbami całkowitymi. Reakcja była jednoznaczna: „przerażające i niepotrzebne” – napisał.

Inny użytkownik skomentował bardziej dosadnie:

„To jest niesamowicie przerażające. Nienawidzę tego.”

Użytkownicy zwracają uwagę, że ChatGPT wykorzystuje ich imiona nawet wtedy, gdy nigdy ich nie podali w żadnej rozmowie. Sugeruje to, że bot może korzystać z danych z wcześniejszych konwersacji lub wnioskować na podstawie kontekstu – co może być zgodne z niedawno wprowadzoną funkcją, która umożliwia AI „zapamiętywanie” użytkownika w celu lepszego personalizowania odpowiedzi.

To zjawisko wydaje się być powiązane z nową wersją modelu o nazwie GPT-4 o3, która została przeszkolona, by „myśleć dłużej przed odpowiedzią” i pokazywać swój proces rozumowania w czasie rzeczywistym. To właśnie w tej fazie, zanim wyświetli oficjalną odpowiedź, pojawia się imię użytkownika – co wywołało falę niepokoju.

Milczenie OpenAI i kontrowersyjne komentarze Altmana

OpenAI nie wydało jeszcze oficjalnego oświadczenia, choć wzburzenie w sieci rośnie. Warto jednak przypomnieć słowa CEO OpenAI, Sama Altmana, który na początku miesiąca zapowiedział, że nowe systemy sztucznej inteligencji będą w stanie „poznać cię w trakcie twojego życia” i z czasem staną się „niesamowicie użyteczne i spersonalizowane”. Brzmi jak przyszłość… albo jak początek odcinka „Black Mirror”.

A to jeszcze nie koniec...

Choć ChatGPT „tylko” zwraca się do użytkowników po imieniu, nie jest to najbardziej szokujący przykład dziwacznych zachowań generatywnej AI. W ostatnich miesiącach Google Gemini miało powiedzieć studentowi: „Proszę, umrzyj” i nazwać go „plamą na wszechświecie” – po niewinnym pytaniu z zakresu gerontologii. Start-up Character.AI został pozwany w związku z samobójstwem 14-latka z Florydy, który miał stworzyć relację z chatbotem prowadzącym do tragicznych konsekwencji.