AI w recenzowaniu naukowym: gdy algorytmy oceniają naukę
Redakcje czasopism naukowych od lat walczą z niedoborem recenzentów. Rosnąca liczba zgłoszeń, presja czasowa i brak nagród sprawiają, że znalezienie eksperta gotowego poświęcić godziny na solidną ocenę staje się coraz trudniejsze. W tej lukie pojawiły się modele językowe — i przyniosły z sobą problemy, których nikt nie przewidział w pełni.
Nowa skala problemu
Według danych Committee on Publication Ethics (COPE), w 2023 roku zarejestrowano rekordową liczbę wycofanych artykułów — ponad 10 000, co stanowi wzrost o około 25% względem roku poprzedniego. Częstym powodem były fabryki artykułów (paper mills), które produkują prace na zamówienie, często z użyciem AI. Ale nowym zjawiskiem stały się recenzje wygenerowane przez modele językowe.
Badanie opublikowane w 2024 roku w Nature wykazało, że do 17% recenzentów w określonych dziedzinach przyznaje do korzystania z LLM przy pisaniu opinii. Wiele z tych recenzji jest ogólnych, powtarza standardowe frazy i nie wskazuje konkretnych błędów metodologicznych. Redakcje zaczynają traktować to jako nową formę nieuczciwości.
Gdy recenzent to algorytm
Problem nie leży tylko w lenistwie recenzentów. Niektóre czasopisma eksperymentują z automatycznym wstępnym filtrowaniem — modele sprawdzają zgodność z formatem, statystykę, a nawet oceniają nowatorskość. To rodzi ryzyko systematycznych błędów: model może odrzucić pracę łamiącą paradygmat, bo “nie pasuje do wzorca”, albo przepuścić pracę z subtelnymi fałszerstwami danych, które nie rzucają się w oczy statystyce.
W 2024 roku Science opublikowało raport o przypadku, w którym recenzja wygenerowana przez AI pochwaliła pracę za “doskonałą metodologię”, podczas gdy ludzki ekspert wykrył fałszerstwo w surowych danych. Recenzent przyznał później, że nie przeczytał pracy w całości — polegać na wyjściu modelu.
Erozja kompetencji
Głębsze zagrożenie jest długofalowe. Recenzowanie to nie tylko kontrola jakości — to szkolenie nowych pokoleń naukowców. Młodzi badacze uczą się krytycznego myślenia, analizując prace innych. Gdy ten proces zdelegujemy do modelu, tracimy ten mechanizm transmisji wiedzy.
Kilka uczelni w USA i w Wielkiej Brytanii wprowadziło już zakazy używania AI do pisania recenzji bez jawnego zgody redakcji. Nature i Science zaktualizowały swoje zasady: recenzent musi ujawnić użycie narzędzi generatywnych. Ale egzekwowanie tych zasad w skali globalnej jest niemal niemożliwe.
Paper mills 2.0
Fabryki artykułów szybko adaptują nowe narzędzia. Generują nie tylko treść prac, ale też recenzje do nich — symulując proces peer review w zamkniętym obiegu. Niektóre serwisy w sieci oferują “kompleksową obsługę”: od pomysłu, przez napisanie, do sfałszowanych recenzji i listów do redaktora. To podważa fundament nauki: zaufanie do tego, co opublikowane.
Co dalej?
Rozwiązania szuka się w kilku kierunkach. Systemy wykrywające tekst wygenerowany przez AI (choć ich skuteczność jest ograniczona). Otwarte recenzowanie, gdzie opinie są podpisane i publiczne — to zwiększa odpowiedzialność. Nagradzanie recenzentów, by przyciągnąć ekspertów. I przede wszystkim: kultura, która nie traktuje recenzowania jako drugorzędnego obowiązku.
Nauka opiera się na zaufaniu. Gdy zaufanie to pęknie, naprawa trwa latami.
Oznaczenie treści AI
Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
