Algorytmiczny nadzór w edukacji: gdy AI ocenia uczniów i nauczycieli
Systemy sztucznej inteligencji wchodzą do szkół i uczelni nie tylko jako narzędzia dydaktyczne, ale jako decydenty. Algorytmy oceniają prace, przewidują ryzyko wypadnięcia z systemu edukacji, rekomendują ścieżki kariery, a w niektórych krajach nawet determinują dostęp do wyższych stopni nauczania. Wprowadzenie tych systemów następuje często bez odpowiednich zabezpieczeń prawnych, audytu uprzedzeń czy mechanizmów odwoławczych dla osób objętych decyzjami maszynowymi.
Automatyczna ocena i uprzedzenia historyczne
Systemy automatycznej oceny prac pisemnych, wdrożone m.in. w Stanach Zjednoczonych (np. przez ETS na egzaminach GRE czy TOEFL) oraz w Chinach na ogólnokrajowych egzaminach gaokao, uczą się na korpusach historycznych. Jeśli dane treningowe odzwierciedlają uprzedzenia — rasowe, płciowe, społeczno-ekonomiczne — model je powiela. Badania publikowane w Nature Machine Intelligence (2023) wykazały, że popularne modele językowe oceniane na esejach uczniów afrykoamerykańskich przyznawały im średnio niższe wyniki przy identycznej jakości merytorycznej, co wynikało z stylistycznych różnic w pisowni i składni, które model interpretował jako błędy.
W Polsce systemy typu e-dziennik z modułami „prognozowania ryzyka” są oferowane przez komercyjnych dostawców. Rodzice i uczniowie rzadko wiedzą, że ich dane behawioralne (częstość logowań, czas reakcji na zadania, aktywność na forach) karmią modele predykcyjne. Brak jawnej zgody na profilowanie oraz niemożliwość sprawdzenia, jakie cechy wpłynęły na ocenę „ryzyka wypadnięcia”, naruszają przepisy RODO w zakresie przetwarzania automatycznego (art. 22).
Inwigilacja w czasie egzaminów i w domu
Proctoring zdalny — nagrywanie obrazu z kamery, dźwięku, ruchów oczu, a nawet analizy mikroekspresji twarzy — stał się standardem na uczelniach w okresie pandemii i został utrwalony. Firmy takie jak Proctorio, Examity czy Honorlock używają AI do flagowania „podejrzanych zachowań”: odejścia wzroku od ekranu, obecności trzeciej osoby w pokoju, nietypowego rytmu klepania. Fałszywe alarmy trafiają do komisji dyscyplinarnych bez kontekstu: student z niepełnosprawnością motoryczną, matka karmiąca dziecko, osoba w głośnym domostwie — wszyscy ryzykują oskarżeniem o plagiat lub oszustwo.
W 2022 r. Biuro Praw Obywatelskich Stanów Zjednoczonych (ACLU) zgłosiło skargę przeciwko uniwersytetom stosującym proctoring, twierdząc, że systemy te dyskryminują studentów z niepełnosprawnościami i z grup mniejszościowych. W Polsce Ustawa o szkolnictwie wyższym i Prawa studenta nie precyzują granicy dopuszczalnego nadzoru biometrycznego, co pozostawia pole manewru administratorom systemów.
Profilowanie ścieżek edukacyjnych i zawodowych
Platformy career-guidance oparte na AI (np. LinkedIn Learning, Coursera, polskie systemy doradztwa zawodowego w centrumach karier) sugerują kierunki studiów i zawody na podstawie profilu kompetencji, wyników testów psychometrycznych i aktywności online. Gdy dane treningowe pochodzą z rynku pracy, w którym historycznie kobiety rzadziej awansowały na stanowiska kierownicze, a Roma rzadziej ukończyli studia, rekomendacje powielają te wzorce. Raport UNESCO z 2021 r. („AI and education: guidance for policy-makers”) ostrzegł, że bez audytu sprawiedliwości systemy te utwalają nierówności zamiast je redukować.
W Polsce Ministerstwo Edukacji i Nauki testowało systemy wspomagania rekrutacji do szkół ponadpodstawowych. Algorytmy punktujące uczniów na podstawie wyników egzaminu ósmoklasisty, ocen z świadectwa i dodatkowych kryteriów (np. wolontariat, olimpiady) miały zastępować komisje rekrutacyjne. Pilotaże wykazały jednak, że modele nie uwzględniają kontekstu: ucznia z trudnym środowiskiem rodzinnym, które ogranicza jego możliwości pozyskania punktów za „dodatkową aktywność”.
Brak przejrzystości i prawo do wyjaśnienia
Rozporządzenie UE o AI (AI Act), które wchodzi w życie etapami od 2024 r., kwalifikuje systemy AI używane w edukacji do oceny lub prognozowania wyników jako wysokie ryzyko (załącznik III). Wymaga to: oceny zgodności, rejestracji w bazie UE, ludzkiego nadzoru, dokumentacji technicznej i — kluczowo — zapewnienia prawem do wyjaśnienia decyzji (tzw. right to explanation). W praktyce polskie szkoły i uczelnie korzystające z gotowych rozwiązań SaaS (Software as a Service) nie dysponują wiedzą techniczną ani kontraktualnym prawem do uzyskania kodu źródłowego lub wag modelu od dostawcy, by spełnić ten wymóg.
Inspekcja Ochrony Danych Osobowych (UODO) w 2023 r. wydała stanowisko, w którym zaznaczyła, że automatyczne profilowanie uczniów w celach dydaktycznych wymaga oddzielnej, jawnej zgody rodziców lub uczniów powyżej 16 r.ż., a nie może polegać na ogólnej zgodzie na przetwarzanie danych w e-dzienniku. Większość dostawców systemów nie dostosowała swoich regulaminów.
Co można zrobić już dziś
Rodzice i uczniowie mogą żądać od szkoły informacji: czy stosowane są systemy automatycznej oceny lub prognozowania, na jakiej podstawie działają, czy przeszły audyt uprzedzeń i jaka jest procedura odwołania od decyzji algorytmicznej. Nauczyciele powinni mieć prawo do weto: ostateczna ocena i decyzje pedagogiczne muszą należeć do człowieka. Organy nadzorcze (UODO, Krajowa Izba Radocy) powinny przeprowadzać kontrole wdrożeń AI w edukacji pod kątem art. 22 RODO i przepisów AI Act.
Edukacja nie może stać się laboratorium niekontrolowanych eksperymentów algorytmicznych na dzieciach. Przepisy istnieją — trzeba je egzekwować.
Oznaczenie treści AI
Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
