Kiedy sztuczna inteligencja ocenia ucznia: błędy, uprzedzenia i niesprawiedliwość
Kiedy sztuczna inteligencja ocenia ucznia: błędy, uprzedzenia i niesprawiedliwość
Systemy AI do automatycznego oceniania mają ambicję zmniejszyć obciążenie nauczycieli — zapewniać szybką, spójną i obiektywną ocenę tysięcy prac studentskich. Badania z 2024–2025 roku pokazują, że te same systemy dziedziczą i nasilają uprzedzenia, które dyskryminują uczennice iujących studentów.
Błędy pomiarowe w automatycznym ocenianiu
Najczęstszym problemem jest tzw. measurement bias. Systemy do automatycznego oceniania esejów są przeszkolone na datasetach zdominowanych przez standardowy język (np. Standard American English). W efekcie studenci piszący alternatywnymi odmianami językowymi (np. African American Vernacular English) otrzymują systematycznie niższe oceny, nawet gdy treść jest merytorycznie lepsza. To nie jest kwestia jednego błędu — to strukturalna niesprawiedliwość wbudowana w model.
Podobnie działa bias wobec studentów angielskiego jako języka obcego (ESL). Badanie z 2024 roku wykazało, że systemy automatycznego oceniania przyznają ESL studentom niższe oceny niż native speakerom, nawet przy takiej samej zawartości merytorycznej. Model nie rozpoznaje struktur składniowych i slownictwa charakterystycznych dla osób uczących się języka — po prostu ich nie spotkał w danych treningowych.
Early warning systems: przewidywanie ryzyka
Systemy early warning mają identyfikować studentów zagrożonych niepowodzeniem, aby zapewnić im odpowiednią pomoc. Problem w tym, że są przeszkolone na danych historycznych — a te zawierają uprzedzenia systemowe. Modele trained na danych frekwencyjnych i dyscyplinarnych often overpredict risk dla studentów z marginalized groups, ponieważ historycznie rzecz biorąc, to właśnie oni mieli więcej problemów z powodu nierówności strukturalnych.
Wynik? Student z niskiej klasy społecznej lub mniejszości etnicznej jest bardziej prawdopodobne, że zostanie automatycznie zakwalifikowany jako „at-risk”, nawet jeśli jego aktualne wyniki są dobre. To nie jest błąd algorytmu — to odbicie strukturalnych nierówności, które system przekształca w indywidualne etykietki.
Rozwiązania i ich ograniczenia
Naukowcy proponują kilka poprawek: fairness-aware algorithms, debiasing strategies, human-in-the-loop overrides i regularne audyty bias. Badanie z 2025 roku wskazuje, że studenci generalnie popierają human oversight, ale pod warunkiem, że system jest przejrzysty — muszą wiedzieć, dlaczego dostali taką a nie inną ocenę. Bez explainability nie ma also appeal mechanism, a bez appeal mechanizmu nie ma sprawiedliwości.
Oznaczenie treści AI
Ten powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
