Oskarżony niesłusznie: gdy detektory AI pomylą ucznia z maszyną
Mechanizm zagrożenia: oskarżenie bez dowodu i bez wyjaśnienia
Detektory tekstu generowanego przez sztuczną inteligencję obiecywały uczelniom proste rozwiązanie trudnego problemu: wklejasz pracę studenta, a program mówi, ile procent napisał czatbot. W praktyce okazało się, że to narzędzie działa jak niewiarygodny świadek oskarżenia — pewny siebie, ale nietrwały w zeznaniach. Firmy takie jak Turnitin wprowadziły funkcję wykrywania tekstu maszynowego wiosną 2023 roku, nie tłumacząc przy tym, jak dokładnie algorytm dochodzi do swoich wniosków.
Fundamentem technicznym większości tych systemów jest pomiar przewidywalności języka: im bardziej tekst „przypomina” to, co model mógłby wygenerować, tym większe podejrzenie. To założenie ma ukrytą pułapkę. Człowiek piszący prostym, poprawnym językiem — na przykład cudzoziemiec starannie kontrolujący obcą gramatykę — produkuje tekst równie przewidywalny jak maszyna. Detektor nie odróżnia więc stylu od pochodzenia tekstu i skazuje niewinnych.
Badanie Stanford: ponad połowa prac cudzoziemców uznana za maszynowe
Najgłośniejszy dowód na systemową stronniczość przyniosło badanie zespołu Weixina Lianga ze Stanforda, opublikowane w czasopiśmie „Patterns” w lipcu 2023 roku. Naukowcy sprawdzili siedem popularnych detektorów na 91 esejach z egzaminu TOEFL, napisanych przez osoby nieanglojęzyczne, oraz na 88 wypracowaniach amerykańskich ósmoklasistów. Dla prac rodowitych Amerykanów wyniki były niemal bezbłędne. Tymczasem średnio ponad 61 procent esejów autorów z Chin zostało błędnie zaklasyfikowanych jako wygenerowane przez sztuczną inteligencję, a co najmniej jeden z badanych programów oznaczył tak niemal 98 procent tych tekstów.
Co istotne, badacze wykazali też odwrotną zależność: gdy wzbogacili słownictwo esejów TOEFL o bardziej literackie sformułowania, odsetek fałszywych alarmów spadł drastycznie. Detektory karzą więc nie za korzystanie z czatbota, lecz za ubóstwo językowe — a to cecha, którą często widać właśnie u najlepszych, najstaranniejszych studentów uczących się języka obcego. Autorzy pracy wprost ostrzegli przed używaniem takich narzędzi w ocenianiu i egzaminowaniu.
Fałszywe oskarżenia w praktyce: sprawa z Texas A&M
Ryzyko przestało być teoretyczne już w maju 2023 roku, gdy media na świecie obiegła historia z Texas A&M University w Commerce. Prowadzący zajęcia z nauk rolniczych Jared Mumm, jak relacjonował „Rolling Stone” i „The Washington Post”, wkleił prace końcowe studentów wprost do ChatGPT i zapytał chatbota, czy je napisał — a bot miał potwierdzić autorstwo wszystkich. Na tej podstawie cała grupa seniorów otrzymała czasową ocenę niezaliczenia tuż przed ceremonią ukończenia studiów, a część dyplomów zawieszono.
Sprawa pokazała dwie rzeczy naraz. Po pierwsze, sam model językowy nie jest detektorem — nie potrafi wiarygodnie stwierdzić, co napisał wcześniej, i potrafi „przyznać się” do tekstów, których nigdy nie widział. Po drugie, uczelnie nie miały gotowych procedur obronnych: studenci musieli samodzielnie dostarczać znaki czasu z dokumentów Google, by udowodnić swoją niewinność. Uczelnia po interwencji mediów potwierdziła, że nikt ostatecznie nie został pozbawiony zaliczenia, ale strach, upokorzenie i tygodnie niepewności pozostały realnym kosztem po stronie ludzi.
Uczelnie cofają się: przykład Vanderbilt
Reakcja środowiska akademickiego była wymowna. Vanderbilt University w sierpniu 2023 roku ogłosił trwałe wyłączenie detektora AI w systemie Turnitin, argumentując decyzję brakiem przejrzystości działania narzędzia oraz ryzykiem fałszywych oskarżeń. Jak wyliczyła uczelnia, Turnitin chwalił się jednoprocenowym poziomem błędów fałszywie pozytywnych, ale przy około 75 tysiącach prac składanych rocznie oznacza to nawet 750 studentów corocznie dotkniętych niesłusznym zarzutem. Z podobnych powodów inne duże uniwersytety — o czym pisały Bloomberg i Business Insider — również rezygnowały z tych funkcji.
To ważny sygnał regulacyjny: instytucje same przyznają, że prawdopodobieństwo błędu, choćby małe, jest nie do pogodzenia z ciężarem konsekwencji. Oskarżenie o plagiat wpływa na stypendia, przyjęcia na dalsze studia, reputację i zdrowie psychiczne. Błąd detektora nie rozprasza się więc w statystyce — zawsze spada na konkretnego człowieka.
Jak się chronić
Student powinien przede wszystkim znać zasady swojej uczelni dotyczące dozwolonej pomocy maszyn i dokumentować proces pisania: wersje robocze, historię zmian w edytorze, notatki źródłowe. W razie zarzutu warto żądać konkretnej, pisemnej metody ustalenia winy — sama adnotacja „wykryto AI” nie jest dowodem, czego wyraźnie ostrzegają sami twórcy narzędzi. Nauczyciele z kolei powinni traktować wyniki detektorów co najwyżej jako impuls do rozmowy, nigdy jako podstawę sankcji, a projektować zadania tak, by wymagały osobistych przemyśleń, prezentacji ustnych lub pracy wykonywanej na zajęciach. Administracje uczelni muszą wreszcie zapewnić odwoławczą ścieżkę z udziałem ludzi, zanim jakakolwiek automatyczna flaga wpłynie na ocenę.
Konkluzja
Wykrywanie tekstu generowanego przez maszyny okazało się zadaniem trudniejszym, niż obiecywali dostawcy narzędzi — być może w ogóle nierozwiązywalnym w formie pewnej. Doświadczenia lat 2023–2026 pokazują pełną sekwencję zagrożenia: stronniczy algorytm, pochopny prowadzący, zawieszone dyplomy i dopiero później — korektę ze strony uczelni. Technologia, która miała chronić uczciwość akademicką, stała się źródłem nowej krzywdy. Dopóki detektory nie udowodnią rzetelności w niezależnych badaniach, ciężar dowodu powinien leżeć po stronie oskarżającego, a nie oskarżonego studenta.
