AI w edukacji: profilowanie uczniów i ryzyko uprzedmień algorytmicznych
Platformy edukacyjne, systemy adaptacyjnej nauki (adaptive learning) i narzędzia predykcyjne stały się standardem w szkołach na całym świecie. Obiecują personalizację: każdy uczeń dostaje materiał dopasowany do tempa, stylu i poziomu. Ale personalizacja wymaga danych — i im więcej system wie, tym lepiej (teoretycznie) działa. To tworzy paradoks: by AI pomagało, musi profilować. A profilowanie niesie ryzyka, których polskie prawo i praktyka szkolna nie nadążają regulować.
Jak wygląda profilowanie w praktyce
Uczeń loguje się na platformę (np. Google Classroom z rozszerzeniami AI, Khan Academy, polskie systemy typu Librus z modułami predykcyjnymi, czy dedykowane aplikacje jak Century Tech, Knewton, DreamBox). System rejestruje: czas odpowiedzi, liczbę błędów, typ błędów, porę día aktywności, urządzenie, lokalizację (IP), a nawet ruchy myszy i pauzy w czytaniu. Na tej podstawie budowany jest model ucznia: „szybki, ale nieścisły”, „wymaga powtórek”, „ryzyko wyrzucenia z systemu”, „zdolny do ścisłych”.
Te etykiety nie są neutralne. Decydują o: zalecanych ścieżkach nauczania, przydziale czasu nauczyciela, informacji przekazywanej rodzicom, a w skrajnych przypadkach — kwalifikacji do klas specjalnych, programów wsparcia lub… odrzuceniu w rekrutacji do szkoły średniej (gdy dane trafiają do zewnętrznych systemów).
Główne zagrożenia
1. Uprzednienia w danych treningowych = uprzednienia w decyzjach
Modele uczą się na historycznych danych. Jeśli w przeszłości chłopcy częściej kierowani byli do informatyki, a dziewczynki do humanistycznych — model nauczy się tej zależności i będzie ją powielać. Badania MIT Media Lab (2022) wykazały, że systemy predykcyjne w edukacji amerykańskiej systematycznie zaniżają prognozy wyników dla uczniów z grup mniejszościowych, nawet przy identycznych wynikach testowych. W Polsce brak publicznych audytów takich systemów — nie wiemy, czy nasze modele są lepsze.
2. Efekt samospełniającej się przepowiedni (self-fulfilling prophecy)
Gdy system oznaczy ucznia jako „ryzykowny”, nauczyciel (zamożony alertami) może nieświadomie zmienić postawę: mniej uwagi, niższe oczekiwania, mniej wyzwań. Uczeń odpowiada gorszymi wynikami — potwierdzając model. To znane z psychologii zjawisko (efekt Pigmaliona/Rozentala) w wersji algorytmicznej potęguje się, bo „komputer nie myli”.
3. Brak transparentności i prawa do wyjaśnienia (right to explanation)
RODO (art. 22) daje prawo do niepoddania się decyzji opartej wyłącznie na automatyzowanym przetwarzaniu, w tym profilowaniu. Ale czy rodzic wie, że profilowanie ma miejsce? Czy nauczyciel potrafi wyjaśnić, dlaczego system zasugerował daną ścieżkę? Większość systemów to „czarne skrzynki” — nawet dostawcy nie zawsze potrafią wskazać, cecha wejściowa (feature) była decydująca. Bez wyjaśnialności (explainability) prawo do skargi jest fikcyjne.
4. Dane behawioralne jako nowy surowiec
Platformy zbierają dane, które wykraczają poza cel edukacyjny: rytmy codzienne, zdrowie psychiczne (wskazywane przez wzorce aktywności nocnej), status materialny (rodzaj urządzenia, jakość łącza). Dane te mogą być: sprzedawane reklamodawcom, udostępniane badaczom bez zgody, wykorzystywane do trenowania modeli komercyjnych. Polskie szkoły podpisują umowy z dostawcami, rzadko czytając klauzule o przetwarzaniu danych w celach „ulepszania usług” — co de facto oznacza trenowanie AI na dzieciach.
5. Nierówność dostępu do „dobrych” algorytmów
Szkoły bogatsze (miasta, niepubliczne) kupują licencje na systemy z audytami uprzedpieczeń, wsparciem ludzkim, opcją wyłączenia AI. Szkoły wiejskie i mniejsze miasta korzystają z darmowych wersji — bez kontroli, bez wsparcia, z pełnym profilowaniem. To pogłębia kluźwę cyfrową: dzieci z mniej zasobnych środowisk są bardziej profilowane i mniej chronione.
Polskie realia prawne i organizacyjne
- RODO + ustawa o systemie oświaty — dyrektor szkoły jest administratorem danych. To on odpowiada za zgodność z prawem, choć rzadko ma kompetencje do audytu algorytmów.
- Konwencja o prawach dziecka (art. 16) — prawo do prywatności, też w środowisku cyfrowym.
- Krajowy Plan Oporczy (KPO) / Fundusze Europejskie dla Edukacji — finansują zakup sprzętu i licencji, ale nie wymagają audytów algorithmic impact assessment.
- Urząd Ochrony Danych Osobowych (UODO) — wydawał stanowiska w sprawie aplikacji w szkołach, ale nie ma zasobów do kontroli setek platform.
Co mogą zrobić rodzice, nauczyciele, dyrektorzy
- Zadawaj pytania przed podpisaniem umowy: czy system profiluje? Jakie dane zbiera? Gdzie są przechowywane? Czy można wyłączyć AI i korzystać tylko z funkcji podstawowych?
- Wymagaj oceny wpływu na ochronę danych (DPIA) — obowiązkowa przy profilowaniu na dużą skalę (RODO art. 35).
- Naucz dzieci cyfrowej higieny — wylogowywanie, prywatne tryby przeglądarki, ograniczenie uprawnień aplikacjom.
- Organizuj rodziców — zbiorowe żądanie audytu systemu u dyrektora ma większą moc niż indywidualne pytanie.
- Wspieraj inicjatywy open-source — polskie projekty typu OSE (Ogólnopolska Sieć Edukacyjna) mogą budować transparentne alternatywy, zamiast kupować gotowe czarne skrzynki.
Podsumowanie
AI w edukacji nie jest złem sama w sobie. Personalizacja może pomóc dziecku z dysleksją, ułatwić pracę nauczycielowi, wychwycić ryzyko depresji. Ale bez: transparentności, audytów uprzedpieczeń, prawa do wyjaśnienia i realnej kontroli przez administratora danych (dyrektora) — profilowanie staje się narzędziem utrwalania nierówności, a nie ich zmniejszania. Dzieci nie są zbiorem treningowym. Ich dane nie są paliwem do modeli komercyjnych. To nie kwestia techniczna — to kwestia praw i etyki.
Oznaczenie treści AI
Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
