Szkoły pod algorytmicznym okiem: monitorowanie uczniów AI a prawa dziecka
Coraz więcej polskich szkół wdraża systemy “bezpieczeństwa” i “wsparcia edukacyjnego” oparte na sztucznej inteligencji. Kamer z rozpoznawaniem twarzy na wejściach, oprogramowanie do proctoringu egzaminów zdalnych, aplikacje monitorujące aktywność uczniów na szkolnych laptopach, a nawet systemy analizujące mimikę i ton głosu podczas lekcji — to nie fantazje, to rzeczywistość w setkach placówek. Uczniowie, często poniżej 13 roku życia, stają się obiektami ciągłej obserwacji algorytmicznej, a rodzice rzadko są informowani o zakresie gromadzonych danych.
Co dokładnie wdrażają szkoły
Proctoring egzaminów i zadań domowych
Systemy typu Proctorio, Examity, ale i polskie rozwiązania (np. moduły w Librusie, Vulcan) nagrywają ekran, kamerę, mikrofon, ruchy oczu, a nawet “suspicious behavior” — np. odchodzenie wzroku od ekranu, rozmowę z kimś w pokoju, obecność innej osoby. Algorytm flaguje “anomalie”, a nauczyciel otrzymuje raport z oznaczanymi fragmentami nagrania.
Monitorowanie aktywności w sieci (Content filtering + Behavioral analytics)
Narzędzia typu GoGuardian, Lightspeed, Securly (popularne w USA, w Polsce odpowiedniki w chmurze edukacyjnej MEN) logują: odwiedzane strony, wpisywane zapytania w wyszukiwarkach, czas spędzony na aplikacjach, a także — w wersjach rozszerzonych — analizują treść dokumentów, czatów, maili pod kątem “zagrożeń”: samobójczości, przemocy, radykalizacji.
Rozpoznawanie emocji i zaangażowania
Systemy testowane w pilotach (np. w ramach programów “Cyfrowa Szkoła”, “Lekcja:Enter”) używają kamery w klasie do analizy: czy uczeń patrzy na tablicę, czy śmieje, czy wygląda na zestresowanego, nudnego. Dane agregowane dają nauczycielowi “wskaźnik zaangażowania klasy”. Nie ma tu anonimizacji — dane są przypisane do konkretnego ucznia (login, numer w dzienniku).
Biometria w kantynach i bibliotekach
Skanery dłoni, rozpoznawanie twarzy do płatności za obiad, wypożyczania książek. Biometria dzieci (kategoria szczególna danych wg art. 9 RODO) gromadzona jest często bez realizowalnej zgody rodziców — “zgoda” to podpis pod regulaminem szkoły, bez którego dziecko nie zje obiadu.
Podstawa prawna: co mówi RODO i polskie prawo
RODO — art. 9 i art. 8
Dane biometryczne, zdrowotne (stres, emocje), dotyczące przekonań — to kategorie szczególne. Przetwarzanie wymaga jawnej, dobrowolnej, specyficznej, świadomej zgody (art. 9 ust. 2 lit. a RODO). Dla dzieci poniżej 16 r. (w Polsce: 13 r. — art. 8 RODO + ustawa o ochronie danych osobowych) zgoda musi dać rodzic/opiekun.
W praktyce: szkoły przywołują “interes publiczny” (art. 6 ust. 1 lit. e RODO) lub “wykonywanie zadań urzędowych” — ale EDPB (Europejski Komitet Ochrony Danych) w wytycznych 05/2020 jasno stwierdził: monitorowanie uczniów w czasie rzeczywistym, z identyfikacją, to przetwarzanie na dużą skalę kategorii szczególnych, wymagające DPIA (oceny wpływu na ochronę danych) i zgody.
Konwencja o prawach dziecka (art. 16) + Konstytucja RP (art. 47)
Prawo do prywatności, tajności korespondencji, ochrony dobrego imienia — dotyczy też dzieci w szkole. Monitoring ciągły, bez celowości, bez możliwości wyjścia (uczeń nie może “nie iść do szkoły”) — to ingerencja w prawą osobiste.
Ustawa o systemie oświaty — brak regulacji AI
Novelizacje z 2023–2024 r. wprowadziły “cyfrową edukację”, ale nie zregulowały: kto może gromadzić dane behawioralne uczniów, jak długo je przechowywać, kogo mają dostęp, czy mogą trafiać do firm zewnętrznych (SaaS). Szkoły podpisują umowy z dostawcami oprogramowania, które rezerwują sobie prawo do “ulepszania usług” danymi uczniów — czyli treningu modeli.
Realne zagrożenia, nie teoretyczne
1. Profilowanie na całe życie
Dane z proctoringu, analizy emocji, historii wyszukiwań lądują w profilach behawioralnych. Firma SaaS może (i często ma w regulaminie prawo) używać ich do trenowania modeli, które potem sprzedaje innym szkołom, pracodawcom, ubezpieczycielom. Uczeń, który “za często patrzył w bok” na egzaminie w 2026 r., może w 2035 r. dostać wyższą składkę ubezpieczenia lub odrzuconą aplikację do pracy — bo model nauczył się korelacji.
2. Efekt chłodzący (chilling effect)
Uczniowie, którzy wiedzą, że są obserwowani, zmieniają zachowanie: nie zadają pytań, nie szukają informacji na tematy “ryzykowne” (zdrowie psychiczne, orientacja seksualna, kontracepcja, przemoc w rodzinie), nie wyrażają niezgodności. Szkoła przestaje być bezpieczną przestrzenią eksperymentowania — staje się panoptikum.
3. Błędy systemów i fałszywe alarmy
Systemy detekcji “zagrożeń samobójczych” generują setki fałszywych alarmów miesięcznie w dużych szkołach. Interwencje policyjne, wezwania rodziców, wpisy do dokumentacji pedagogicznej — wszystko na podstawie algorytmu, który nie rozumie kontekstu (np. uczeń pisze esse o “Hamlecie” — system flaguje “myśli samobójcze”). W USA (Gaggle, Bark) udokumentowano przypadki aresztowań dzieci na podstawie alertów AI.
4. Dysproporcjonalne wpływanie na grupy wrażliwe
Badania (np. Center for Democracy & Technology, 2023) pokazują, że systemy monitoringu częściej flagują: dzieci neuroatypowe (ADHD, autyzm — inny wzorzec patrzenia, ruchów), dzieci z ubogich rodzin (korzystające z jednego urządzenia z rodzeństwem — “can’t verify identity”), dzieci mniejszości etnicznych (rozpoznawanie twarzy gorzej działa na ciemniejszej skórze — fałszywe odmowy dostępu do kantyny, biblioteki).
5. Wycieki danych
W 2023–2024 r. znane wycieki: Illuminate Education (dane 800 tys. uczniów USA), PowerSchool (dane nauczycieli i uczniów), polskie incydenty w systemach Librus, Vulcan (niepubliczne, ale zgłaszane do UODO). Dane biometryczne i behawioralne nie da się “zmienić” jak hasła — wyciek jest permanentny.
Co mogą zrobić rodzice i uczniowie
- Wymagać DPIA — każda szkoła wdrażająca monitoring AI ma obowiązek przeprowadzić ocenę wpływu na ochronę danych (art. 35 RODO). Poproś o dostęp do dokumentu.
- Odmawiać zgody na kategorie szczególne — biometria w kantynie, rozpoznawanie emocji, analiza mimiki. Szkoła musi zapewnić alternatywę (karta zbliżeniowa, kod PIN, tradycyjny wypis z biblioteki).
- Pytać o procesorów danych — kto jest administratorem, a kto procesorem? Gdzie są serwery (UE/USA)? Czy umowa zawiera Standardowe Klauzule Kontraktowe?
- Skarga do UODO — każdy przypadek wdrożenia bez DPIA, bez zgody, bez informowania to naruszenie RODO. UODO ma 3 miesiące na reakcję.
- Rada Rodziców / Samorząd Uczniowski — formalne pismo do dyrektora z wnioskiem o audyt systemów, przejrzystość, możliwość wyjścia (opt-out).
Co powinny zrobić szkoły (a rzadko robią)
- Minimalizacja danych: monitoring tylko tam, gdzie jest konieczny (egzaminy certyfikatujące — tak; codzienne lekcje — nie).
- Anonimizacja i agregacja: analiza “zaangażowania klasy” bez przypisywania do indywidualnych uczniów.
- Lokalne przetwarzanie (edge): modele działające na urządzeniu, bez wysyłania wideo do chmury.
- Przejrzystość: publiczny rejestr systemów AI, cel, podstawa prawna, okres przechowywania, procedura skargi.
- Nadzór ludzki: każdy alert AI weryfikowany przez pedagoga/psychologa, nie automatycznie eskalowany do policji.
Przyszłość: AI Act a edukacja
AI Act (Rozporządzenie 2024/1689) w załączniku III, pkt 3 klasyfikuje systemy AI do oceny wyników uczenia się, monitorowania zachowania, dostępu do usług oświatowych jako wysokiego ryzyka. Oznacza to obowiązek: systemu zarządzania ryzykiem, jakości danych, dokumentacji, nadzoru ludzkiego, rejestracji w bazie UE.
Polska implementacja (ustawa o AI, w przygotowaniu w Ministerstwie Cyfryzacji) musi precyzować: czy szkoła publiczna to “dostawca” czy “użytkownik” systemu (odpowiedzialność prawna się zmienia), jakie są terminy dostosowania istniejących systemów (obecnie: do 2027 r. dla systemów już w użyciu).
Bez presji społecznej, skarg do UODO, aktywności rad rodziców i samorządów uczniowskich — szkoły będą wdrażać kolejne moduły “bezpieczeństwa”, bo “fundusze unijne na cyfryzację wymagają wdrożenia”, a firmy SaaS oferują gotowe pakiety “w cenie licencji”. Cena płacą dzieci.
Oznaczenie treści AI
Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
