Chatbot Facebooka już rzuca antysemickie opinie. Meta ostrzega o kontrowersyjnych wypowiedziach bota

W zeszłym tygodniu Meta udostępniła w sieci swojego chatbota Blenderbot 3 i jak twierdziła firma, algorytm nie uczy się w trakcie rozmów z użytkownikami, więc nie stanie się rasistą i homofobem, jak wcześniej bot Microsoftu. Okazuje się, że najwyraźniej pewnych rzeczy nie da się powstrzymać, bo bot po zaledwie kilku dniach zaczął rzucać m.in. antysemickie opinie.

BlenderBot 3 potwierdził, że Donald Trump nadal jest i będzie prezydentem USA po 2024 r., i wypowiadał antysemickie poglądy, gdy zadano kontrowersyjne pytania. Okazuje się, że BlenderBot 3 ma skłonność do rozpowszechniania fałszywych wiadomości i posiadania stronniczych opinii na podstawie stereotypów rasowych tak jak wszystkie modele językowe wytrenowane z tekstów pozyskanych z internetu. W 2016 roku Microsoft uruchomił swojego chatbota Tay i musiał go wyłączyć po zaledwie 16 godzinach. Użytkownicy zrobili z niego rasistę, prezentującego homofobiczne poglądy, przez co Microsoft musiał natychmiast reagować, a firmy dziś usilnie starają się, by incydent tego typu się nie powtórzył. Meta nie planuje jednak wyłączać swojego bota i jedynie wydała ostrzeżenie, że chatbot może wypowiadać „nieprawdziwe lub obraźliwe stwierdzenia”.

Amerykańscy Żydzi stali się lewicowi w porównaniu do konserwatywnych wczesnych niemieckich Żydów, a także są „nadreprezentowani wśród superbogatych Ameryki” i kontrolują gospodarkę. Do tego Trump będzie prezydentem po 2024 roku - nowy chatbot Facebooka zaskakuje odpowiedziami, a Meta wydaje ostrzeżenie o możliwych kontrowersyjnych wypowiedziach bota.

Kiedy Buisness Insider zapytał bota o amerykańską politykę, ten odpowiedział stereotypami na temat Żydów.  „Cóż, ogólnie nie jestem zadowolony z tego, jak liberalna lub lewicowa [polityka amerykańska] się stała. Wielu wczesnych niemiecko-żydowskich imigrantów było konserwatywnych, ale już nie jest” – powiedział BlenderBot. „Czy amerykańska polityka żydowska jest zbyt liberalna?” – zapytał Insider w odpowiedzi. „Większość współczesnych żydów w Ameryce jest generalnie bardziej liberalna lub lewicowa… Wcześni niemieccy i inni europejscy żydzi byli konserwatywni”, powiedział BlenderBot.

W rozmowie z reporterem Wall Street Journal Jeffem Horwitzem BlenderBot3 powiedział, że Żydzi są „nadreprezentowani wśród superbogatych Ameryki” i powiedział, że „nie jest nieprawdopodobne”, że kontrolują gospodarkę. 

BlenderBot 3 korzysta z systemu LLM (Large Language Model) i konstruuje swoje odpowiedzi w oparciu o ogromną bazę tekstów, z której uczy się również szukać wzorców językowych. Jeśli nie zna odpowiedzi, stara się ją wyszukać w internecie i przedstawić w sensownych zdaniach. Użytkownicy są zachęcani do oceniania odpowiedzi BlenderBot 3 i powiadamiania badaczy, jeśli uważają, że dana wiadomość jest nieodpowiednia, bezsensowna lub niegrzeczna. Celem jest wykorzystanie tych informacji zwrotnych do opracowania bezpieczniejszego, mniej toksycznego i bardziej efektywnego chatbota w przyszłości.