Ciemna strona AI. Ludzie przestają mówić „nie wiem” i coraz częściej się mylą

Sztuczna inteligencja miała pomagać w podejmowaniu lepszych decyzji, ale najnowsze badania pokazują, że w wielu sytuacjach przynosi odwrotny efekt. Naukowcy odkryli, że osoby korzystające z podpowiedzi AI znacznie częściej udzielały błędnych odpowiedzi, a jednocześnie były przekonane o swojej racji bardziej niż kiedykolwiek wcześniej. 

Badanie przeprowadzone przez naukowców z Uniwersytetu Milano-Bicocca, École Normale Supérieure oraz Uniwersytetu La Sapienza przyniosło bardzo niepokojące rezultaty. Okazało się, że sama możliwość skorzystania z odpowiedzi wygenerowanej przez sztuczną inteligencję niemal całkowicie eliminuje gotowość do przyznania się do niewiedzy.

Bez pomocy AI aż 44 proc. uczestników potrafiło odpowiedzieć "nie wiem", gdy nie byli pewni poprawnego rozwiązania. Po udostępnieniu odpowiedzi wygenerowanych przez model AI odsetek ten spadł do zaledwie 3 proc.

Użytkownicy bardzo szybko zaczynają ufać odpowiedziom algorytmów nawet wtedy, gdy sami nie mają pewności, czy są one poprawne.

Im większa pewność siebie, tym gorsze wyniki

Jeszcze bardziej zaskakujące okazały się dane dotyczące skuteczności odpowiedzi. Przed skorzystaniem ze sztucznej inteligencji poprawnych odpowiedzi udzielało 27 proc. uczestników. Po otrzymaniu wskazówek od AI wynik spadł do zaledwie 9 proc.

Jednocześnie poziom pewności siebie gwałtownie wzrósł. Początkowo tylko 30 proc. badanych deklarowało pełne przekonanie o poprawności swoich odpowiedzi. Po wykorzystaniu AI odsetek ten wzrósł aż do 76 proc.

Profesor Valerio Capraro, współautor badania, zwraca uwagę na wyjątkowo niebezpieczny mechanizm. Badani stawali się mniej skuteczni, ale jednocześnie byli znacznie bardziej przekonani, że mają rację.

Naukowcy odkryli, że porady AI zmniejszyły ryzyko odpowiedzi "nie wiem" z 44% do 3%, a trafność z 27% do 9%, a pewność siebie wzrosła z 30% do 76%. Ludzie ufali błędnym odpowiedziom AI.

Naukowcy celowo wystawili AI na próbę

Eksperyment został przygotowany w bardzo nietypowy sposób. Badacze wybierali pytania, z którymi współczesne modele językowe mają wyraźne problemy.

Dotyczyły one między innymi szczegółów wizualnych z filmów. Jednym z przykładów było pytanie o kolor strojów drużyny w filmie „Podkręć jak Beckham”. Do eksperymentu wykorzystano model Step 3.5 Flash, który regularnie popełniał błędy przy tego typu zadaniach.

Dzięki temu naukowcy mogli sprawdzić, czy uczestnicy ślepo zaakceptują niepoprawne odpowiedzi. Tak właśnie się stało. Część osób, które samodzielnie wskazałyby właściwą odpowiedź, po konsultacji z AI zmieniała zdanie i wybierała błędną wersję.

Nawet pieniądze nie przekonały uczestników do większej ostrożności

Autorzy badania próbowali również sprawdzić, czy nagrody finansowe wpłyną na większą rozwagę uczestników. Efekt okazał się niewielki. Gotowość do odpowiedzi "nie wiem" wzrosła jedynie z 3 do 8 proc., natomiast liczba poprawnych odpowiedzi zwiększyła się z 9 do 16 proc.

To nadal wyniki zdecydowanie słabsze od tych uzyskanych przez osoby, które odpowiadały bez pomocy sztucznej inteligencji.

Coraz więcej badań pokazuje ten sam problem

Opisane zjawisko nie jest odosobnione. Wcześniej badacze z Wharton School określili podobny mechanizm mianem "poznawczej kapitulacji". Według ich analiz użytkownicy bardzo często akceptują błędne odpowiedzi AI i robią to z wyjątkowo wysokim poziomem pewności.

Nowe badanie dostarcza kolejnych dowodów na to, że problem nie ogranicza się wyłącznie do błędów modeli językowych. Sama obecność AI wpływa na sposób podejmowania decyzji przez ludzi. Zamiast krytycznie oceniać informacje, użytkownicy coraz częściej traktują odpowiedzi chatbota jako gotowe rozwiązanie.

Największe obawy dotyczą najmłodszych użytkowników

Profesor Valerio Capraro uważa, że szczególnie narażone są dzieci i młodzież, które dorastają w świecie zdominowanym przez narzędzia oparte na sztucznej inteligencji.

Jego zdaniem umiejętność powiedzenia "nie wiem" jest jednym z fundamentów krytycznego myślenia. Pozwala dostrzec granice własnej wiedzy i zachęca do dalszego poszukiwania informacji. Jeśli AI stopniowo eliminuje ten odruch, może to prowadzić do utrwalania błędnych przekonań.

Dyskusja nabiera znaczenia również dlatego, że kolejne usługi internetowe coraz mocniej opierają się na generowanych przez AI odpowiedziach. Dotyczy to między innymi wyszukiwarek, które coraz częściej prezentują gotowe podsumowania zamiast klasycznej listy odnośników. Badacze ostrzegają, że taki model korzystania z informacji może prowadzić do spadku samodzielnej analizy i większej podatności na błędne odpowiedzi generowane przez algorytmy.