Badacze korzystający z AI mogą dostać zakaz publikacji. Prestiżowy serwis ma dość naukowego slopu

Repozytorium arXiv, jedno z najważniejszych miejsc publikacji prac naukowych na świecie, wypowiada wojnę tekstom generowanym przez sztuczną inteligencję. Platforma zapowiedziała nowe zasady moderacji, które mogą mocno uderzyć w autorów bezrefleksyjnie korzystających z modeli językowych pokroju ChatGPT. Kara ma być wyjątkowo dotkliwa, bo aż roczna blokada możliwości publikowania nowych artykułów.

arXiv od lat pełni rolę cyfrowego centrum nauki dla fizyków, matematyków, informatyków i badaczy sztucznej inteligencji. To właśnie tam trafiają tysiące prac jeszcze przed formalną recenzją naukową. Dla wielu naukowców obecność na arXiv jest równie ważna jak publikacja w prestiżowym czasopiśmie.

AI zaczęła zalewać naukę

Moderacja arXiv otwarcie przyznaje, że problem stał się poważny. Coraz więcej publikacji zawiera fragmenty wygenerowane przez modele językowe, których autorzy nawet nie sprawdzili przed wysłaniem pracy. Chodzi nie tylko o błędy merytoryczne, ale też charakterystyczne „ślady” działania chatbotów.

W przesyłanych artykułach zaczęły pojawiać się absurdalne metakomentarze w rodzaju „oto poprawiona wersja tekstu”, „czy chcesz wprowadzić dodatkowe zmiany?” albo gotowe szablony pozostawione przez AI. Zdarzały się również halucynacje modeli, nieistniejące cytowania, błędne dane i kompletnie fikcyjne odniesienia naukowe.

Dla platformy, która od dekad buduje reputację wiarygodnego archiwum badań, stało się to problemem nie do zignorowania.

Koniec taryfy ulgowej dla autorów

Nowe zasady są bardzo jasne. Jeśli autor podpisuje pracę własnym nazwiskiem, bierze pełną odpowiedzialność za całą jej treść, niezależnie od tego, czy tekst stworzył człowiek, czy model AI.

Thomas G. Dietterich z Uniwersytetu Stanowego Oregonu, członek zespołu moderującego arXiv, podkreślił, że korzystanie z dużych modeli językowych samo w sobie nie jest zakazane. Problem zaczyna się wtedy, gdy autorzy kopiują wygenerowane fragmenty bez dokładnej weryfikacji.

Platforma oczekuje, że naukowcy samodzielnie wyłapią błędy, halucynacje, plagiaty, tendencyjny język i wszystkie inne problemy generowane przez AI. Jeśli tego nie zrobią, konsekwencje mogą być bardzo poważne.

Roczny ban za błędy wygenerowane przez AI

Najgłośniejszym elementem nowych regulacji jest automatyczna kara dla autorów publikujących niezweryfikowane treści wygenerowane przez sztuczną inteligencję. Po potwierdzeniu naruszenia użytkownik może zostać zablokowany na cały rok.

To jednak dopiero początek problemów. Aby odzyskać możliwość publikowania na arXiv, autor będzie musiał wcześniej opublikować swoją pracę w renomowanym, recenzowanym czasopiśmie naukowym. Dla wielu badaczy może to oznaczać wielomiesięczne opóźnienia w pracy naukowej i utratę widoczności w środowisku akademickim.

Moderatorzy zapewniają, że każda sprawa ma przechodzić formalną procedurę weryfikacji. Autorzy otrzymają też możliwość odwołania się od decyzji o blokadzie.

Świat nauki zaczyna walczyć z generatywnym chaosem

Jeszcze dwa lata temu modele językowe były traktowane głównie jako ciekawostka technologiczna. Dziś stały się codziennym narzędziem używanym przez studentów, programistów i badaczy. Problem polega na tym, że część użytkowników zaczęła traktować AI jak automatyczną maszynę do tworzenia publikacji, które tylko z pozoru przypominają rzetelne opracowania naukowe.

arXiv najwyraźniej uznał, że dalsze ignorowanie problemu może podważyć wiarygodność całego repozytorium. Szczególnie że platforma przechowuje już ponad 2,4 miliona prac z takich dziedzin jak fizyka, matematyka, informatyka, biologia czy statystyka.