Chatbot uśmiercił Donalda Trumpa. AI twierdzi, że zmarł na wściekliznę

Sztuczna inteligencja po raz kolejny udowodniła, że potrafi generować nie tylko odpowiedzi, ale również kompletnie zmyślone historie. Tym razem granice absurdu zostały przesunięte wyjątkowo daleko. Chatbot wyszukiwarki DuckDuckGo miał informować użytkowników, że prezydent Stanów Zjednoczonych Donald Trump zmarł na wściekliznę 7 czerwca.

Według licznych relacji użytkowników system AI zintegrowany z wyszukiwarką DuckDuckGo prezentował odpowiedzi sugerujące, że Donald Trump zmarł wskutek zakażenia wścieklizną. Na tym jednak nie kończyła się wygenerowana historia W jednej z wersji tej fałszywej narracji pojawiała się również informacja o śmierci wiceprezydenta J.D. Vance'a, który rzekomo także miał zarazić się tą chorobą. W sieci zaczęły krążyć coraz bardziej absurdalne szczegóły, a niektóre witryny publikowały całe sfabrykowane artykuły rozwijające tę historię.

Wśród nich znalazły się treści opisujące fikcyjne ostrzeżenia Sekretarza Zdrowia USA Roberta F. Kennedy'ego Jr. dotyczące rzekomych skutków ugryzienia przez zakażoną osobę. Wszystkie te informacje okazały się całkowicie nieprawdziwe.

Wszystko zaczęło się na Reddicie

Źródłem problemu miał być internetowy eksperyment prowadzony przez użytkowników Reddita. Na początku roku powstała społeczność r/poisonai, której celem jest publikowanie celowo fałszywych informacji mających wprowadzać modele AI w błąd.  Na forum regularnie pojawiają się absurdalne wpisy dotyczące znanych polityków i celebrytów. Wśród publikowanych treści można znaleźć historie o rzekomej konwersji Donalda Trumpa na islam czy całkowicie zmyślone doniesienia dotyczące jego życia prywatnego.

Ponieważ wiele modeli językowych korzysta z ogromnych zasobów publicznie dostępnych danych internetowych, sztuczna inteligencja mogła potraktować satyryczne lub celowo spreparowane treści jako autentyczne informacje.

Eksperci od dawna ostrzegają, że masowe publikowanie fałszywych danych może prowadzić do zjawiska określanego mianem „zatruwania danych”. Polega ono na świadomym umieszczaniu w sieci nieprawdziwych informacji po to, by modele AI zaczęły je uznawać za fakty.

Problem jest znacznie większy

Halucynacje sztucznej inteligencji nie są nowym zjawiskiem. Chatboty regularnie wymyślają cytaty, przypisują wypowiedzi niewłaściwym osobom lub tworzą nieistniejące źródła. W ostatnich miesiącach pojawiło się jednak kilka szczególnie głośnych przypadków. Badacze z firmy GPTZero opisali zjawisko określane jako „vibe citations”, podczas którego systemy AI generowały przekonująco brzmiące, ale całkowicie nieistniejące przypisy i publikacje naukowe.

Wcześniej głośno było również o odpowiedziach Groka, chatbota rozwijanego przez firmę xAI Elona Muska.  Grok porównał śmierć do „motyla opuszczającego skorupę ”, udzielając bardzo metaforycznej odpowiedzi. Romantyzacja ta była jednak częścią badania nad psychozą AI, które ujawniło przesadę i stronniczość, jakie mogą występować w chatbotach, zwłaszcza po dłuższych rozmowac. Również Google musiał ograniczać działanie swoich systemów po tym, jak algorytmy zaczęły traktować satyryczne treści publikowane przez serwisy humorystyczne jako prawdziwe informacje.

Rosnące zagrożenie dla wyszukiwarek AI

Incydent z DuckDuckGo pokazuje, że rozwój wyszukiwarek opartych na sztucznej inteligencji niesie ze sobą nowe ryzyka. Tradycyjna wyszukiwarka prezentuje użytkownikowi listę źródeł, pozostawiając ocenę wiarygodności odbiorcy. Chatbot AI często podaje jedną, gotową odpowiedź przedstawianą z dużą pewnością siebie.

Jeżeli system bazuje na błędnych danych lub nie potrafi odróżnić satyry od faktów, dezinformacja może rozprzestrzeniać się błyskawicznie.

Eksperci są zgodni, że użytkownicy nie powinni traktować odpowiedzi generowanych przez chatboty jako ostatecznego źródła wiedzy. Weryfikacja informacji w kilku niezależnych źródłach pozostaje niezbędna, szczególnie gdy chodzi o wydarzenia polityczne, zdrowotne lub finansowe.