Chatbot Meta (Facebook) uważa, że ​​Zuckerberg jest przerażającym manipulatorem

BlenderBot 3 do Meta jest oparty na systemie LLM (Large Language Model) i jak twierdzi firma, nie uczy się w trakcie rozmów z użytkownikami, więc nie stanie się rasistą i homofobem, jak wcześniej bot Microsoftu. Użytkownicy postanowili jednak sprawdzić, co program "uważa" na temat Marka Zuckerberga.

Chatboty to bardzo gorący temat. W 2016 roku Microsoft uruchomił swojego chatbota Tay i musiał go wyłączyć po zaledwie 16 godzinach. Użytkownicy zrobili z niego rasistę, prezentującego homofobiczne poglądy, przez co Microsoft musiał natychmiast reagować, a firmy dziś usilnie starają się, by incydent tego typu się nie powtórzył. Nowy chatbot BlenderBot 3 firmy Meta (niegdyś Facebook) nie powinien jednak zbyt szybko się uczyć, ponieważ nie opiera swoich twierdzeń na wcześniejszych wpisach użytkowników. Zapamiętuje je jednak i może budować odpowiedzi związane z poprzednimi  rozmowami bazując na ciasteczkach, ale nie uczy się z rozmów. 

BlenderBot 3 nie jest konsekwentny w swoich wypowiedziach, dostarczając za każdym razem inne opinie, co oznacza, że prawdopodobnie posiłkuje się losowymi informacjami z sieci.

BlenderBot 3 korzysta z systemu LLM (Large Language Model) i konstruuje swoje odpowiedzi w oparciu o ogromną bazę tekstów, z której uczy się również szukać wzorców językowych. Jeśli nie zna odpowiedzi, stara się ją wyszukać w internecie i przedstawić w sensownych zdaniach. Dodatkowo dołącza źródła swoich informacji. Mary Williamson z Facebook AI Research (FAIR) mówi, że o ile Tay dosłownie ewoluował z interakcji z użytkownikami, o tyle BlenderBot 3 jest statycznym modelem.

Pytanie oczywiście brzmi, ile czasu minie, zanim bot udzieli jakiejś skandalicznej odpowiedzi. Jednak na razie publiczność bawi się np. jego poglądami na temat założyciela Facebooka Marka Zuckerberga. Np. zapytany przez Maxa Woolfa z Buzz Feed, co myśli o Zuckerbergu, odpowiedział, że nie ma na jego temat zdecydowanej opinii. Dodał, że jest dobrym biznesmenem, ale jego praktyki są często nieetyczne i dziwne. Dziwne jest również, że mając tak ogromny majątek zawsze nosi to samo ubranie.

Jason Culverhouse spróbował tego samego pytania. Tym razem bot mówił o Zuckerbergu jako o bardzo bystrym człowieku i popularnym miliarderze, potentacie medialnym i filantropie. To rodziło pytania, czy wyniki były w jakiś sposób manipulowane przez Meta, jednak Sarah Jackson z Business Insider również próbowała nieco później, a bot wyraził już silną negatywną „opinię”, że w ogóle nie lubi Zuckerberga, uważa, że jest przerażający i manipulacyjny. Zapytany o etykę Facebooka, odpowiedział, że sieć zastąpiła tradycyjne media w 2010 roku i od tego czasu jest nieetyczna, a kilka minut później powiedział, że zależy to od definicji etyki pytającego.

Takie odpowiedzi pokazują, że bot niestety nie jest zbyt "inteligentny" i nie uczy się, a odpowiedzi generuje na podstawie informacji znalezionych w internecie, nie zachowując przy tym konsekwencji.