Egzamin pod kamerą: awarie i uprzedzenia zdalnego nadzoru akademickiego

Gdy wiosną 2020 roku pandemia zamknęła kampusy, uczelnie w pośpiechu kupowały oprogramowanie obiecujące, że egzamin zdalny będzie równie szczelny jak ten na sali. W ciągu kilku tygodni kamery internetowe milionów studentów przejęły firmy takie jak Proctorio, Honorlock, Respondus czy ExamSoft. Bilans tego eksperymentu okazał się gorzki: fałszywe alarmy wymierzone głównie w osoby o ciemniejszej karnacji, federalny wyrok o niekonstytucyjności cyfrowego przeszukania domu oraz fala rezygnacji uczelni, które uznały, że społeczna cena nadzoru jest zbyt wysoka.

Jak działa cyfrowy pilnujący

Zdalny nadzór akademicki opiera się na prostej idei: skoro egzamin odbywa się w domu, to dom trzeba sprowadzić do roli sali egzaminacyjnej. Program przejmuje kamerę i mikrofon, blokuje przeglądarkę, śledzi ruchy gałek ocznych i mimikę, analizuje hałas w tle, a niektóre rozwiązania żądają pokazania dokumentu tożsamości i okrążenia kamerą własnego pokoju. Na końcu algorytm wylicza wskaźnik podejrzenia i oznacza nagrania, które prowadzący powinien obejrzeć.

Problem polega na tym, że student zwykle nie wie, co zostanie uznane za sygnał oszustwa. Spojrzenie w bok podczas zastanawiania się, czytanie pytania na głos, wyjście do łazienki, słabsze łącze obniżające płynność wideo — wszystko to potrafi uruchomić czerwoną flagę. Ostateczną decyzję podejmuje człowiek, ale to maszyna wskazuje podejrzanych, a te wskazania nie rozkładają się między studentami równo.

Maszyna, która kogoś nie widzi

Pierwsze ostrzeżenia przyszły już jesienią 2020 roku, gdy agencja Reuters opisała losy amerykańskiego studenta prawa Areeba Khana, którego portal do próbnego egzaminu adwokackiego nie chciał rozpoznać twarzy i wyświetlał komunikat o złym oświetleniu. Khan podejrzewał, że problemem była barwa jego skóry; wymiana wiadomości z pomocą techniczną trwała kilka dni. W kwietniu 2021 roku Uniwersytet Wisconsin-Madison wyłączył funkcję automatycznej pauzy w systemie Honorlock po zgłoszeniach trzech studentów, których egzaminy zatrzymywały się, bo oprogramowanie nie wykrywało ich twarzy o ciemniejszej karnacji — firma twierdziła wtedy, że winne było odwracanie wzroku od kamery.

W tym samym miesiącu serwis Motherboard opublikował testy studentki Lucy Satheesan, która ustaliła, że wykrywanie twarzy w Proctorio opiera się na otwartej bibliotece OpenCV. W jej próbach algorytm w ponad połowie prób nie rozpoznawał twarzy czarnoskórych osób, a najwyższa skuteczność dla jakiejkolwiek grupy nie sięgała 75 procent. Najtwardszych danych dostarczyło badanie opublikowane we wrześniu 2022 roku na łamach pisma „Frontiers in Education”: analiza wyników blisko 360 studentów korzystających z Respondus Monitor, według autorów stosowanego przez co najmniej 1500 amerykańskich uczelni, wykazała istotnie częstsze oznaczanie osób o ciemniejszej karnacji jako wymagających weryfikacji. Kobiety o najciemniejszym odcieniu skóry trafiały pod lupę prowadzącego ponad cztery razy częściej niż kobiety o średnim odcieniu.

Do tego dochodzi wymiar majątkowy. Autorzy tego samego opracowania odnotowali, że przerwy w łączu internetowym częściej dotykały studentów o ciemniejszej karnacji, co przekłada się na gorszą jakość nagrań i kolejne alarmy. Zdalny egzamin karze więc podwójnie tych, którzy mają starszy sprzęt i tańsze łącze.

Sypialnia pod lupą konstytucji

Najgłośniejszy epizod tej historii rozegrał się w Ohio. Student chemii Aaron Ogletree przed zdalnym egzaminem w lutym 2021 roku musiał na żądanie pilnującej okrążyć kamerą swoją sypialnię, choć jeszcze tego samego poranka wyjaśniał w mailu, że leżą tam poufne dokumenty podatkowe, których nie zdąży schować. Nagranie trafiło na serwery firmy Honorlock, a inni uczestnicy egzaminu mogli oglądać skany cudzych mieszkań. 22 sierpnia 2022 roku sędzia J. Philip Calabrese z federalnego sądu dystryktowego uznał, że skan pokoju naruszył Czwartą Poprawkę do konstytucji USA. Skany, pisał sędzia, docierają tam, gdzie ludzie normalnie nie docierają bez nakazu sądowego ani zaproszenia, a uczelnia nie przedstawiła dowodów, że skany rzeczywiście chronią uczciwość testów. W grudniu 2022 roku sąd formalnie stwierdził naruszenie i trwale zakazał wobec Ogletreeego skanów bez wyraźnej zgody albo sensownej alternatywy.

Sprawa wpisuje się w szerszą burzę. Pod koniec 2020 roku organizacja EPIC złożyła skargi na pięć firm z branży, nazywając ich praktyki z natury inwazyjnymi, a grupa senatorów na czele z Richardem Blumenthalem zażądała od dostawców wyjaśnień w sprawach dyskryminacji i prywatności.

Kampusy odwracają się plecami

Konsekwencje przyszły szybko. Uniwersytet Illinois Urbana-Champaign ogłosił w styczniu 2021 roku rezygnację z Proctorio po semestrze letnim, wskazując na skargi związane z dostępnością, prywatnością, bezpieczeństwem danych i równością; poprzedziła ją petycja ponad tysiąca podpisów. Na początku marca 2021 roku senat kampusu w Vancouver Uniwersytetu Kolumbii Brytyjskiej odebrał wydziałom prawo do automatycznego nagrywania egzaminów, przewidując wyjątki tylko tam, gdzie wymagają tego organy certyfikujące. W Europie symboliki nabrała skarga Robin Pocornie przeciwko Vrije Universiteit Amsterdam: Niderlandzki Instytut Praw Człowieka orzekł w październiku 2023 roku, że nie udowodniono działania programu w sposób dyskryminujący w jej konkretnej sytuacji, ale zarzucił uczelni nieprawidłową obsługę skargi i podkreślił, że wyrok nie wyklucza dyskryminacji w innych przypadkach.

Nadzór jednak nie zniknął — część uczelni po prostu wymieniła dostawcę, tak jak Ohio State, które w 2024 roku zamieniło Proctorio na Honorlock. Student, który nie chce zostać fałszywie posądzony, ma dziś realnie niewiele możliwości: może pytać o alternatywne formy zaliczenia, żądać ludzkiej zamiast automatycznej oceny alarmów, dokumentować problemy techniczne na bieżąco, a w Unii Europejskiej powoływać się na RODO, bo analiza twarzy i zachowania graniczy z przetwarzaniem danych biometrycznych.

Pandemiczny eksperyment zostawił trwały ślad. Orzeczenie z Ohio stało się punktem odniesienia w debacie o prywatności w edukacji, a badania nad uprzedzeniami algorytmów — argumentem w rozmowie o tym, komu technologia ufa bardziej, a komu mniej. Egzamin pod kamerą okazał się nie tyle strażnikiem uczciwości, ile lustrem, w którym odbiły się uprzedzenia samego społeczeństwa.