AI w urządzeniach medycznych: cyberzagrożenia dla zdrowia i życia

AI w urządzeniach medycznych: cyberzagrożenia dla zdrowia i życia

Sztuczna inteligencja trafiła do implantów, pomp insulinowych i monitorów pracy serca. To postęp medyczny, ale też nowa powierzchnia ataku — błąd algorytmu lub cyberatak mogą zagrażać życiu pacjenta.

Skala zjawiska

Regulatorzy, jak FDA, autoryzowali ponad tysiąc urządzeń medycznych wspieranych przez uczenie maszynowe. Większość z nich łączy się z sieciami szpitalnymi lub internetem, co tworzy liczne wektory ataku.

Nowe zagrożenia

• Ataki adwersarialne — niewielkie zmiany w obrazie medycznym mogą zmylić model diagnostyczny.
• Zatruwanie danych — złośliwe dane treningowe wprowadzają błędy lub tylne furtki.
• Inwersja modelu — odzyskiwanie danych pacjentów z zapytań do modelu.
• Kradzież modelu — rekonstrukcja algorytmu przez zapytania.
• Prompt injection — w urządzeniach opartych na modelach językowych.

Regulacje

Unijny Akt o sztucznej inteligencji klasyfikuje większość medycznych systemów AI jako wysokiego ryzyka, wymagając odporności na ataki cybernetyczne. W USA ustawa Consolidated Appropriations Act 2023 wymaga planów zarządzania podatnościami i zestawienia komponentów oprogramowania (SBOM).

Oznaczenie treści AI

Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.