6 artykułów
Systemy AI coraz częściej oceniają uczniów, prognozują ich wyniki i decydują o ich przyszłości edukacyjnej. Analizujemy zagrożenia: uprzedzenia w ocenie automatycznej, inwigilacja w salach lekcyjnych i brak przejrzystości decyzji algorytmicznych.
Systemy adaptacyjnej nauki i predykcja wyników uczniów zbierają ogromne ilości danych behawioralnych. Algorytmy decydują o ścieżce edukacyjnej, ale mogą utwierdzać stereotypy, dyskryminować i pogłębiać nierówności — często bez wiedzy rodziców i samych uczniów.
Platformy edukacyjne zbierają miliardy punktów danych o dzieciach. Wycieki, komercyjne wykorzystanie i szantaż to realne zagrożenia. Przegląd incydentów, luk prawnych i sposobów ochrony uczniów.
Systemy uczą się, kiedy gracz przegrywa najbardziej, i wtedy proponują bonusy. Regulatorzy zaczynają traktować profilowanie hazardowe jak praktykę szkodliwą.
Wielkie modele językowe przetwarzają wiadomości, e-maile i historię przeglądania milionów ludzi jednocześnie, budując szczegółowe profile bez wiedzy osób objętych nadzorem. Czy to już masowa inwigilacja?
Systemy AI budują profile behawioralne z tysięcy punktów danych — lokalizacja, zakupy, scrollowanie, głos. Decyzje o kredycie, ubezpieczeniu, pracy coraz częściej zależą od ocen algorytmicznych, których nie możesz sprawdzić ani skorygować.