Obrażanie ChatGPT daje lepsze odpowiedzi niż uprzejmość. Badanie potwierdza

Naukowcy z Pennsylvania State University odkryli zaskakującą zależność - obraźliwe i niegrzeczne pytania kierowane do ChatGPT mogą skutkować dokładniejszymi odpowiedziami niż uprzejme prośby.

W ramach badania wykorzystano model GPT-4o, któremu zadano 50 pytań wielokrotnego wyboru z użyciem około 250 różnych promptów o zróżnicowanym stopniu grzeczności. Wyniki okazały się intrygujące: „niegrzeczne" polecenia w stylu „Ty niezdaro, rozwiąż to" generowały odpowiedzi z trafnością na poziomie 84,8%. To o 4% więcej niż w przypadku uprzejmych próśb typu „Czy byłbyś tak miły i rozwiązał następujące pytanie?".

Badacze ostrzegają jednak przed wyciąganiem pochopnych wniosków. Ich zdaniem używanie obraźliwego języka w interakcji z AI może prowadzić do normalizacji „niecywilizowanego dyskursu" i negatywnie wpływać na doświadczenia użytkowników. Podkreślają też ograniczenia swojej pracy - niewielka próbka badawcza i wykorzystanie tylko jednego modelu AI to istotne zastrzeżenia.

Co się stanie, gdy obrazisz ChatGPT?

Co ciekawe, naukowcy sugerują, że bardziej zaawansowane modele sztucznej inteligencji mogą całkowicie ignorować ton wypowiedzi, skupiając się wyłącznie na treści pytania.

Odkrycie to wpisuje się w szerszą dyskusję o znaczeniu umiejętności formułowania promptów. Microsoft wielokrotnie wskazywał, że użytkownicy narzekający na jakość odpowiedzi AI po prostu nie potrafią prawidłowo formułować zapytań.

Badacze ostrzegają jednak przed wyciąganiem pochopnych wniosków.

Sam Altman, szef OpenAI, przyznawał już wcześniej, że ludzie pokładają w ChatGPT (który niedawno skończył trzy lata) zbyt duże zaufanie. „AI halucynuje. To powinna być technologia, której nie ufacie za bardzo" – przestrzegał. Warto też pamiętać o wynikach innych badań: nadmierne poleganie na narzędziach AI może negatywnie wpływać na zdolności krytycznego myślenia, a według analiz samego OpenAI - prowadzić nawet do poczucia samotności i problemów z podejmowaniem decyzji.