Automatyczna moderacja treści: gdy AI cenzuruje niewinnie
Systemy AI moderują miliardy postów dziennie. Błędy algorytmów prowadzą do usuwania niewinnych treści i blokowania kont. Jak to działa i jak się odwołać.
5 artykułów
Systemy AI moderują miliardy postów dziennie. Błędy algorytmów prowadzą do usuwania niewinnych treści i blokowania kont. Jak to działa i jak się odwołać.
Automatyczna moderacja treści przez AI prowadzi do niesłusznych blokad kont i usunięć postów. Brak skutecznych procedur odwoławczych dotyka użytkowników na całym świecie.
Automatyczne systemy moderacji usuwają wpisy i blokują konta na podstawie analizy sentymentu i klasyfikatorów obrazu. Gdy algorytm się myli, użytkownik traci głos — często bez możliwości odwołania.
Analiza Indicator opisana przez WIRED: na 85 stron nudify Amazon i Cloudflare dostarczają hosting lub CDN dla 62, a Google sign-on używane jest na 54 z nich. Większość zależy od usług głównych dostawców chmurowych.
Algorytmy rekomendacyjne platform mediów społecznościowych tworzą ekokomory, w których użytkownik widzi tylko to, co potwierdza jego przekonania. Jak to działa i co można z tym zrobić?