Czytanie emocji pod prąd: dlaczego UE zakazała analizy uczuć w pracy i szkole
Zakazane odczytywanie uczuć od lutego 2025 roku
Od 2 lutego 2025 r. w całej Unii Europejskiej obowiązuje zakaz wykorzystywania systemów sztucznej inteligencji do wyciągania wniosków na temat emocji ludzi w miejscu pracy oraz w instytucjach edukacyjnych. Zapis znalazł się w artykule 5 Aktu o sztucznej inteligencji, czyli wykazie praktyk uznanych za niedopuszczalne ze względu na ryzyko dla praw podstawowych. Jak przypomina Komisja Europejska w oficjalnych wytycznych, wyjątkiem są wyłącznie rozwiązania wdrożone ze względów medycznych albo związane z bezpieczeństwem. Za złamanie zakazu grożą administracyjne kary pieniężne sięgające 35 mln euro lub 7 procent rocznego światowego obrotu przedsiębiorstwa.
Decyzja Brukseli nie wzięła się znikąd. Przez lata firmy oferowały algorytmy oceniające mimikę kandydatów podczas rekrutacji, monitorujące uwagę uczniów przed ekranem albo mierzące „zadowolenie” pracowników przy biurkach. Takie systemy korzystały z kamer i mikrofonów, analizowały wyraz twarzy, ton głosu i gesty, po czym tworzyły gotowe profile emocjonalne. Raporty z tych analiz trafiały do przełożonych i mogły wpływać na decyzje o awansach, premiach czy ocenach okresowych — często bez wiedzy i zgody osób, których dotyczyły.
Nauka mówiła wprost: to nie działa
Fundamentem sprzedawanych rozwiązań było przekonanie, że mimika jednoznacznie zdradza stan wewnętrzny człowieka. Tymczasem przegląd ponad tysiąca prac naukowych, wykonany przez zespół psycholog Lisa Feldman Barrett we współpracy z Association for Psychological Science, nie potwierdził istnienia takiej prostej zależności. Badacze ustalili, że ludzie rzeczywiście czasem marszczą brwi w gniewie i uśmiechają się w radości, jednak związek między ruchami mięśni twarzy a emocjami jest słaby i mocno zależy od kontekstu, kultury oraz cech konkretnej osoby.
Jak wyliczyła Barrett na łamach „Scientific American”, w kulturach miejskich ludzie marszczą brwi jedynie w około 35 procentach sytuacji, gdy doświadczają złości. Grymas może równie dobrze oznaczać skupienie, wysiłek albo nic szczególnego. Ten sam układ mięśni komunikuje różne stany, a ta sama emocja przybiera różne twarze. Oprogramowanie mierzy więc ruchy mięśni, a nie emocje — konkluzja, po której instytut badawczy AI Now działający przy Uniwersytecie Nowojorskim zaapelował o zakaz stosowania takich technologii tam, gdzie zapadają decyzje istotne dla czyjegoś życia i szans.
Szkoły jako poligon doświadczalny
Najgłośniejsze przykłady szkolne pochodzą z Chin. W liceum nr 11 w Hangzhou system firmy Hikvision skanował twarze uczniów co trzydzieści sekund, rozpoznając siedem kategorii emocji i sześć typów zachowań; po fali krytyki mediów i rodziców program wycofano. Z kolei szkoła średnia Niulanshan pod Pekinem testowała rozwiązanie Classroom Care firmy Hanwang, które fotografowało klasę niemal co sekundę, oznaczało każdego ucznia jako skupionego albo rozproszonego i wysyłało cotygodniowe raporty nauczycielom oraz rodzicom przez aplikację mobilną.
Organizacja praw człowieka Article 19 udokumentowała te praktyki w raporcie „Emotional Entanglement”, pokazując skalę chińskiego rynku technologii emocjonalnych — od sal lekcyjnych po więzienia i kontrolę na granicach. Autorki opracowania podkreślały, że naukowe podstawy tych systemów są zdyskredytowane, a ich wpływ na wolności obywatelskie nie do pogodzenia z międzynarodowymi standardami praw człowieka. Uczniowie pytani przez badaczy przyznawali, że nauczyli się „odgrywać” zainteresowanie lekcją, by nie zostać oflagowani jako leniwi. To odsłania mechanizm zagrożenia: stały nadzór zmienia zachowanie ludzi niezależnie od tego, czy pomiary są w ogóle trafne.
Rachunek po stronie człowieka
Skutki błędnej automatycznej klasyfikacji nie są abstrakcyjne. Osoba neurodywersyjna, o nietypowej ekspresji czy sposobie siedzenia, może zostać uznana za rozkojarzoną; ktoś o mało ruchliwej twarzy — za wrogo nastawionego albo niezaangażowanego. W rekrutacji algorytm oceniający mimikę mógł przekreślić kandydata bez jakiejkolwiek racjonalnej podstawy. W szkole punktowanie uwagi grozi stygmatyzacją dzieci, których emocje wyglądają inaczej niż u statystycznej średniej. Dochodzi do tego efekt mrożący: świadomość nieustannej obserwacji utrudnia swobodne zadawanie pytań, dopominanie się i szczery kontakt, czyli wszystko to, z czego powinna słynąć dobra klasa i zdrowy zespół.
Warto też pamiętać, że zakaz nie wyczerpuje regulacji. Poza obszarem pracy i edukacji rozpoznawanie emocji pozostaje w UE czynnością wysokiego ryzyka, wymagającą nadzoru, dokumentacji i testów — jak wynika z klasyfikacji zawartej w samym akcie. Oznacza to, że nawet legalne zastosowania muszą przechodzić znacznie surowszą kontrolę niż dotychczas.
Jak się chronić
Po pierwsze, warto wiedzieć, że od lutego 2025 r. żaden pracodawca ani szkoła nie mogą legalnie wymuszać udziału w automatycznej ocenie uczuć. Po drugie, każde użycie systemu sztucznej inteligencji wobec pracownika wymaga poinformowania go o tym — również organizacji związkowych i przedstawicieli załogi. Po trzecie, w razie podejrzenia praktyki zakazanej można zawiadomić organ nadzoru rynku sztucznej inteligencji; w Polsce funkcję tę ma przejąć Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji przewidziana w projekcie krajowej ustawy wdrażającej unijne przepisy.
Europejski zakaz czytania emocji w pracy i szkole to rzadki przykład regulacji, która wyprzedziła rynek i jednocześnie dogoniła naukę. Technologia obiecywała maszynowy wgląd w duszę, a dostarczała niepewnych pomiarów mięśni twarzy obciążonych kulturowymi stereotypami. Unia postanowiła, że decyzje o karierach i ocenach dzieci nie będą od nich zależeć — i trudno o bardziej uzasadniony powód interwencji ustawodawcy.
