Algorytmiczne ocenianie w szkołach — gdy AI decyduje o przyszłości ucznia
Gdy maszyna ocenia człowieka
W coraz większej liczbie szkół na świecie i w Polsce wprowadza się systemy oparte na sztucznej inteligencji, które mają wspierać nauczycieli w ocenianiu. Analizują one prace pisemne, odpowiedzi testowe, a nawet nagrania audio z odpowiedzi ustnych. Problem w tym, że uczniowie i ich rodzice często nie wiedzą, że decyzję o ocenie podjęła maszyna, a nie człowiek.
Jak działają te systemy
Większość narzędzi to modele językowe lub klasyfikatory trenowane na dużych zbiorach tekstów. Porównują one odpowiedź ucznia z wzorcem i przypisują wynik. Niektóre systemy analizują też styl pisania, tempo pracy czy zachowanie podczas egzaminu online. Wszystko to dzieje się bez możliwości odwołania się do nauczyciela.
Ryzyka i błędy
Badania pokazują, że algorytmy mogą faworyzować uczniów, których styl pisania przypomina wzorce z danych treningowych — najczęściej teksty uczniów z dużych miast, o określonym statusie społecznym. Uczniowie z mniejszych miejscowości, z niepełnosprawnościami lub z innym językiem ojczystym są systematycznie niżej oceniani. Dodatkowo systemy te często nie radzą sobie z kreatywnymi odpowiedziami, które nie pasują do wzorca.
Brak transparentności
Kluczowy problem to brak przejrzystości. Rodzice nie mają dostępu do logiki decyzji, a nauczyciele często nie rozumieją, jak algorytm doszedł do wyniku. W razie błędu nie ma jasnej ścieżki odwoławczej. Dziecko, które otrzymało niezasłużoną ocenę, może stracić szansę na stypendium lub miejsce na studiach.
Co robić
Szkoły powinny informować o użyciu AI w ocenianiu, zapewniać możliwość odwołania się do człowieka i regularnie audytować systemy pod kątem dyskryminacji. Rodzice mają prawo pytać o to, czy i jak AI uczestniczy w ocenianiu ich dzieci.
Oznaczenie treści AI
Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
