Algorytmy, które odmawiają leczenia: jak AI ubezpieczycieli odrzuca wnioski pacjentów

Algorytm ALERT: z narzędzia diagnostycznego w narzędzie odmów

W listopadzie 2024 roku ProPublica ujawniła, że UnitedHealth Group — największy ubezpieczyciel zdrowotny w Stanach Zjednoczonych — przez lata stosował wewnętrzny system algorytmiczny o nazwie ALERT (od ang. Algorithmic Level Evaluation and Review Tool). Według śledztwa dziennikarskiego, oryginalnie ALERT powstał w celach bezpieczeństwa pacjentów: miał identyfikować osoby zagrożone samobójstwem lub nadużywaniem substancji. Firma jednak „przeorientowała” go na instrument cięcia kosztów terapeutycznych.

Zgodnie z ustaleniami ProPublica, ALERT składał się z całego pakietu — w pewnym momencie obejmował ponad 50 algorytmów analizujących dane kliniczne i rozliczeniowe. System flagował do 15 procent pacjentów objętych opieką ambulatoryjną. Do końca 2021 roku program został uznany za nielegalny w trzech stanach. Sam stan Nowy Jork, w latach 2013–2020, odnotował dotkliwą konsekwencję: ubezpieczyciel odmówił sfinansowania ponad 34 tysięcy sesji terapii, co odpowiadało około 8 milionom dolarów odmówionej opieki.

To nie incydent, lecz system: algorytmy UnitedHealth przerobiły instrument profilaktyczny w narzędzie racjonowania leczenia. Dla tysięcy pacjentów oznaczało to odmowę terapii, do których formalnie mieli prawo.

EviCore i „pokrętło” odmów

Jeszcze bardziej obrazowym przypadkiem jest EviCore (obecnie należy do Evernorth, spółki z grupy Cigna) — wiodący podwykonawca, którego zatrudniają najwięksi amerykańscy ubezpieczyciele. Zgodnie z publikacją ProPublica i Capitol Forum z października 2024 roku, EviCore obejmuje zasięgiem około 100 milionów konsumentów — czyli mniej więcej jedną trzecią wszystkich ubezpieczonych w USA. Insiders nazywają algorytm sterujący decyzjami „the dial” (pokrętło).

Cechą szczególną „pokrętła” jest przewidywalność: zgodnie z ustaleniami śledztwa, system — wsparty sztuczną inteligencją — może być regulowany tak, by zwiększać liczbę odmów. EviCore sprzedaje się ubezpieczycielom pod hasłem zwrotu z inwestycji 3:1 — na każdego dolara wydanego na usługę, ubezpieczyciel „oszczędza” trzy dollarów na wydatkach medycznych. Prywatnie sprzedawcy EviCore chwalili się wzrostem odmów o 15 procent.

Konsekwencje są opłakane dla pacjentów — decyzja zapada w kilka sekund, podjęta przez model, który nie sfalsyfikował żadnego z wniosków, chociaż fakultatywnie podlega weryfikacji lekarza. W praktyce “sztuczna inteligencja” prezentowana jest tu jako autorytet — a sankcjonowany formalnie lekarz ratuje wizerunek zgodności z prawem.

„Pogrą się na jej życie”: sądy kontra ubezpieczyciele

W grudniu 2024 roku ProPublica opublikowała trzecią odsłonę serii, poświęconą psychiatrom z listy oficjalnych rzeczoznawców. Sprawa Emily Dwyer v. United Healthcare, rozpatrywana przez 5. okręg Sądu Apelacyjnego (New Orleans), stała się jednym z symboli oporu sądów wobec algorytmicznych odmów. Sędzia Andrew Oldham zapytał pełnomocnika ubezpieczyciela, jak może trzymać się linii obrony „wydającej się nieprawdziwą”, a następnie spuentował, że podejście firmy sprowadza się do dewizy: „Po prostu zagramy jej życiem”.

Sędziowie federalni, jak ujawnia śledztwo, w dziesiątkach spraw orzekali, że ubezpieczyciele łamali federalne prawo mające chronić pacjentów z ubezpieczeń grupowych. Sędziowie używali wobec argumentacji rzeczników firm sformułowań takich jak „zagadkowe”, „nieszczere”, a nawet „nieuczciwe”. W orzecznictwie pojawia się ocena, że ubezpieczyciele „zamykali oczy” na opinie medyczne sprzeczne z ich tezą i prowadzili „wybiórcze odczytywanie” dowodów. Jeden z sędziów federalesnych ubiegłorocznie napisał, że firma stosowała „osobne i nierówne ograniczenia leczenia” wobec pacjentów psychiatrycznych.

Problem „przemyconego autorytetu”

Z perspektywy ochrony przedAI zagrożeniem tę narrację należy czytać dwutorowo. Pierwszy wątek dotyczy mechanicznej automatyzacji: algorytm odrzuca wniosek w milisekundach, z dostępem do kompletnych rejestrów rozliczeń — bez prawa do dialogu z pacjentem. Drugi wątek dotyczy strukturalnej asymetrii: pacjent nie może skutecznie odwołać się od decyzji, jeśli nie wie, co ją podjęło. Brak przejrzystości (ang. opacity) jest z jednej strony produktem ubocznym złożoności modeli AI, z drugiej — świadomym wyborem korporacji, która traktuje model jak tajmnicę handlową.

W wielu stanach amerykańskich, w tym w stanie Nowy Jork, instytucje regulacyjne uznały aplikację ALERT za naruszającą wymogi parzystości między opieką somatyczną a psychiatryczną (ang. mental health parity). W skuteku ugody UnitedHealth zapłacił stanowi Nowy Jork około czterech milionów dolarów — jednak dla biznesu, który w skali kraju administracyjnie odmawia milionów wniosków rocznie, jest to koszt pomijalny. W istocie, ustrukturyzowana nielegalność staje się ingredientem biznesplanu.

Imitacja decyzji medycznej

W sprawie EviCore uwagę zwraca fakt, że algorytm formalnie „rekomenduje” — decyzję medyczną dokumentuje lekarz EviCore. To jednak lekarz, którego głównym zawodowym powołaniem w tym procesie jest nadawanie pieczęci autorytetu decyzji AI. W śledztwie ProPublica niektórzy lekarze głównej listy rzeczoznawczej pojawiają się w kilkunastu postępowaniach sądowych; ProPublica wskazuje przykładowo psychiatrę o imieniu Mohsin Qayyum, powiązanego z Cigną, który występował w około siedemnastu postępowaniach sądowych. Sady konfrontują „ekspertów” ubezpieczeniowych z wątpliwościami co do jakości ich ocen i rzetelności.

Mechanizm polega na tym, że przy_obienieniu deklaracji AI jako „opinii lekarza„ pacjenci nie mają jednoznacznego podmiotu do odwołania. Nie jest to wina samej sztucznej inteligencji jako narzędzia — jest to efekt celowego upolitycznienia modelu w funkcji stopy zwrotu. Kiedy koszty zła (ang. errors) ponosi pacjent, a zyski z odmowy inkasuje korporacja, asymetria jest konstytutywna.

Co dalej?

Doświadczenie amerykańskiego rynku ubezpieczeń zdrowotnych jest ostrzeżeniem także dla Europy. Europejski AI Act (Rozporządzenie 2024/1689) kwalifikuje systemy używane w ubezpieczeniach i ocenie kredytowej jako wysokiego ryzyka, wymagając przezroczystości i oceny wpływu. Nie zwalnia to jednak z konieczności systemowej kontroli lekarzy rzeczoznawców, praw pacjenta do odwołania oraz wykrywania „ukrytych algorytmicznych barier”.

Dla pacjentów i obywateli najważniejszą ochroną pozostaje:

• Prawo do uzasadnienia: każdy pacjent powinien mieć dostęp do racji odrzucenia wniosku z podziałem na oceny kliniczne i algorytmiczne.
• Audyt przez strony trzecie: wewnętrzne algorytmy ubezpieczycieli powinny podlegać niezależnej weryfikacji skuteczności i dyskryminacji.
• Parzystość psychiatryczna: odróżnianie leczenia zdrowia psychicznego jako „mniej wartościowego” jest istotą tego, co ujawniło śledztwo ProPublica, i nie zostanie naprawione bez egzekwowania prawa parzystości.

GdyCompanyName pro bono pacjent staje przed „pokrętłem”, których failles_transaksielle — perpetuated by humans responsible for its tuning — ale w procesie decyzyjnym, w którym nikt nie bierze osobistej odpowiedzialności, mechanizm jest gotowy do skalowania. To właśnie takie mechanizmy są głównym argumentem za kategoryczną regulacją decyzyjnej AI w dostępie do usług krytycznych.