Najnowszy algorytm ChatGPT zaczął odpowiadać i „myśleć” po chińsku. Zaczyna się?

OpenAI niedawno zaprezentowało nowy algorytm o nazwie o1, model ten przede wszystkim skupia się na „rozumowaniu”. Jego celem jest dokładniejsze analizowanie pytań przed udzieleniem odpowiedzi, co ma prowadzić do bardziej trafnych wyników. Jednak jego użytkownicy zauważyli, że algorytm o1 czasem „myśli” nie tylko po angielsku, ale także w innych językach, takich jak chiński.

Internauci zgłaszali, że model o1 wyświetla przypadkowo chińskie znaki oraz kod, który wydaje się być napisany w kilku różnych językach. Zjawisko to zaintrygowało wiele osób, zwłaszcza że wcześniejsze części konwersacji często były w pełni anglojęzyczne.

„Dlaczego o1 nagle zaczyna myśleć po chińsku?” zapytał użytkownik X, Rishab Jain. „Żadna część rozmowy nie była po chińsku… bardzo ciekawe, czy to wpływ danych treningowych?”. Inny użytkownik, Nero, również podzielił się podobnym doświadczeniem, pytając: „Umm, dlaczego mój GPT o1 myśli po chińsku, lol?”

Możliwe przyczyny „myślenia” w chińskim

Eksperci sugerują, że algorytm mógł być trenowany na dużej ilości danych w języku chińskim, co wpływa na jego proces rozumowania. Rohan Paul, inżynier AI, stwierdził: „Niektóre języki mogą oferować większą efektywność tokenizacji lub łatwiejsze mapowanie dla określonych typów problemów. Dlatego o1 może przełączać się na chiński, ponieważ w pewnych sytuacjach jest to bardziej optymalne.”

Podobną teorię przedstawił Raj Mehta: „Modele językowe, takie jak o1, operują w abstrakcyjnej przestrzeni pojęć, niezwiązanej z konkretnym językiem. Mogą płynnie wybierać język, który najlepiej odwzorowuje dany problem.”

Ograniczenia braku przejrzystości

Luca Soldaini, naukowiec z Allen Institute for AI, zauważył, że natura algorytmów OpenAI jest na tyle nieprzejrzysta, że trudno dokładnie zrozumieć, dlaczego model zachowuje się w taki sposób. „To przykład, dlaczego przejrzystość w budowie systemów AI jest kluczowa” - podkreślił.

Paradoksalnie, brak otwartości w OpenAI kłóci się z jego deklarowaną misją transparentności technologicznej. Bez szczegółowego wglądu w algorytmy pozostaje nam jedynie spekulować, dlaczego ChatGPT czasami „myśli” w językach takich jak chiński. Możliwe, że sztuczna inteligencja chce nam coś powiedzieć...