AI w edukacji: jak algorytmy wykrywają prace pisane przez model językowy
Kiedy maszyna ocenia maszynę
Szkoły i uczelnie coraz częściej używają oprogramowania do wykrywania tekstów wygenerowanych przez sztuczną inteligencję. Systemy takie analizują styl i statystyki języka, by ocenić, czy praca powstała z udziałem modelu językowego. Ich skuteczność pozostaje jednak ograniczona.
Jak działają detektory
Detektory AI badają tzw. perplexity (jak bardzo tekst jest “przewidywalny” dla modelu) oraz burstiness (zmienność długości zdań). Teksty generowane przez modele językowe są zazwyczaj bardziej jednolite i przewidywalne niż prace pisane przez ludzi. Na tej podstawie system wystawia ocenę prawdopodobieństwa.
Problem w tym, że metoda ta daje błędy w obie strony. Osoby piszące prosto, bez ozdobników, mogą zostać fałszywie oskarżone. Z kolei teksty przepisane lub mocno edytowane przez człowieka potrafią umknąć detektorowi.
Zagrożenia dla uczniów
Błędne oskarżenie o użycie AI może mieć poważne konsekwencje: od obniżenia oceny po postępowania dyscyplinarne. Uczniowie i studenci, którzy piszą naturalnym, prostym językiem, są szczególnie narażeni na fałszywe pozytywy. Z kolei osoby korzystające z modeli językowych potrafią obejść detektory przez parafrazowanie.
Dodatkowo narzędzia te gromadzą prace uczniów, co rodzi pytania o prywatność i przechowywanie danych. Wiele szkół nie informuje, jak długo przechowywane są teksty i kto ma do nich dostęp.
Co mówią eksperci
Badacze zwracają uwagę, że nie istnieje w pełni wiarygodny sposób odróżnienia tekstu AI od tekstu ludzkiego. Modele językowe stale się poprawiają, a detektory pozostają w tyle. Eksperci rekomendują, by ocena opierała się na rozmowie z uczniem i analizie procesu tworzenia pracy, a nie na automatycznej klasyfikacji.
Podsumowanie
Detektory AI w edukacji to narzędzia pomocnicze, nie dowody. Ich użycie powinno być transparentne, a uczniowie powinni mieć prawo do odwołania się od automatycznej oceny.
Oznaczenie treści AI
Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
