Shadow AI: gdy pracownicy wyciekają dane przez nieoficjalne narzędzia

Wiele firm wdraża polityki dotyczące sztucznej inteligencji, audyty dostawców i kontrolę narzędzi. Równolegle, znacznie ciszej, dzieje się coś innego: pracownicy na własną rękę korzystają z publicznych chatbotów i asystentów AI, pomijając jakiekolwiek procedury. Zjawisko to określa się mianem shadow AI — przez analogię do shadow IT, czyli nieoficjalnego oprogramowania używanego w firmach wbrew politykom bezpieczeństwa. Różnica polega na skali przepływu danych: zamiast pliku na prywatnym dysku chmurowym do zewnętrznej usługi trafiają wklejone fragmenty kodu źródłowego, treści umów, dane osobowe klientów czy wewnętrzne analizy.

Jak wyciekają dane

Mechanizm jest banalnie prosty. Programista ma problem z kodem i wkleja go do publicznego czatu, razem z nazwami funkcji ujawniającymi wewnętrzną architekturę. Pracownik działu prawnego prosi chatbot o podsumowanie umowy i dostarcza mu tym samym pełną treść dokumentu. Specjalista ds. sprzedaży przygotowuje ofertę z danymi klienta. W każdym z tych przypadków dane opuszczają kontrolowane środowisko firmy i trafiają do dostawcy zewnętrznego — często bez żadnej umowy powierzenia przetwarzania i bez wiedzy działu bezpieczeństwa.

Ryzyko nie ogranicza się do samego wysłania. Publiczne narzędzia AI bywają podatne na błędy konfiguracji, wycieki historii rozmów i incydenty po stronie dostawcy. Dane wklejone do czatu mogą też zostać użyte do trenowania kolejnych wersji modeli, jeśli ustawienia konta tego nie wykluczają — wtedy informacja, którą firma uważała za poufną, staje się częścią systemu, z którego korzystają miliony ludzi.

Znane incydenty i skala zjawiska

Problem nie jest teoretyczny. W 2023 roku Samsung po trzech incydentach, do których doszło w ciągu około trzech tygodni od udostępnienia pracownikom chatbota — wklejono wtedy poufny kod źródłowy półprzewodników oraz treść wewnętrznego spotkania — wprowadził zakaz korzystania z generatywnej sztucznej inteligencji na firmowych urządzeniach i sieciach. Zakaz obejmował ChatGPT, Google Bard i Bing Chat, a jego naruszenie groziło zwolnieniem. To przykład reakcji odwrotnej — zamiast kontrolowanego wdrożenia firma wybrała całkowity zakaz, co samo w sobie rzadko rozwiązuje problem: korzystanie przenosi się na prywatne telefony i godziny pracy.

Badania nad zachowaniami pracowników konsekwentnie pokazują, że zjawisko jest powszechne. Według analiz firmy Cyberhaven, objętych dane o aktywności siedmiu milionów pracowników, blisko 40 procent interakcji z narzędziami AI dotyczy danych wrażliwych — a to nie są ataki celowe, tylko rutynowa praca ludzi, którzy nie zdają sobie sprawy z konsekwencji. Z kolei według badań firmy LayerX ponad trzy czwarte pracowników wkleja dane do promptów narzędzi AI, a większość tych wklejek pochodzi z kont prywatnych, poza kontrolą pracodawcy. Skutki są wymierne: według raportu IBM „Cost of a Data Breach” z 2025 roku co piąta organizacja doświadczyła już naruszenia danych związanego z nieoficjalnym użyciem AI, a takie incydenty podnoszą średni koszt naruszenia o około 670 tysięcy dolarów.

Wymiar prawny: RODO i odpowiedzialność

Dla firm działających w Europie shadow AI to przede wszystkim problem prawny. Wklejenie danych osobowych klientów do publicznego chatbota może stanowić przekazanie danych do podmiotu zewnętrznego — a w wielu przypadkach także transfer do państw trzecich, poza Europejskim Obszarem Gospodarczym. Jeżeli firma nie zawarła umowy powierzenia przetwarzania, nie poinformowała osób o odbiorcach danych i nie oceniła ryzyka, narusza obowiązki nakazane przez RODO. Administratorem danych pozostaje firma, nawet jeśli to pojedynczy pracownik zadziałał z własnej inicjatywy — to ona odpowiada przed organem nadzorczym.

Do tego dochodzi ochrona tajemnicy przedsiębiorstwa i poufności umów. Dane wklejone do zewnętrznej usługi trudno uznać za objęte efektywną kontrolą, a po użyciu do trenowania modeli ich wycofanie bywa praktycznie niemożliwe. Inspektorzy ochrony danych coraz częściej wskazują narzędzia AI jako obszar wymagający odrębnej dokumentacji i przeszkolenia pracowników.

Co może zrobić firma

Całkowity zakaz używania AI rzadko działa — sprawdzony na przykładach pokazuje, że korzystanie przenosi się tam, gdzie go nie widać. Skuteczniejsze podejście łączy kilka elementów:

• Jasna polityka AI. Krótki, zrozumiały dokument określający, jakie dane wolno wklejać do narzędzi zewnętrznych, a jakich nigdy: dane osobowe, tajemnica przedsiębiorstwa, kod źródłowy, treści umów.
• Kontrolowane alternatywy. Dostarczenie pracownikom zatwierdzonych narzędzi AI z wyłączonym trenowaniem na danych firmowych — jeśli legalna droga jest wygodna, pokusa obejścia maleje.
• Szkolenia na przykładach. Pracownicy rzadko zdają sobie sprawę, że wklejenie umowy to wysłanie jej poza firmę. Konkretne scenariusze działają lepiej niż ogólne zakazy.
• Monitoring i ułatwienia techniczne. Zabezpieczenia typu DLP wykrywają wycieki danych, a listy dopuszczonych narzędzi ograniczają chaos setek usług AI.
• Ocena ryzyka przed wdrożeniem. Każde nowe narzędzie AI w firmie powinno przejść weryfikację: gdzie trafiają dane, kto je przetwarza, czy są transfery poza EOG.

Cichszy wyciek, poważniejsze skutki

Shadow AI rzadko wygląda spektakularnie — nie ma tu zaginionych laptopów ani złamanych haseł. To proces rozproszony, składający się z tysięcy codziennych, niewinnych z pozoru decyzji pracowników. Właśnie dlatego bywa trudniejszy do wykrycia niż klasyczne ataki, a jego skutki — wyciek kodu, umów czy danych klientów — ujawniają się dopiero wtedy, gdy jest za późno na wycofanie informacji. Firmy, które potraktują to zjawisko poważnie, zyskują coś więcej niż zgodność z przepisami: odzyskują kontrolę nad tym, gdzie naprawdę znajdują się ich dane.

Oznaczenie treści AI

Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.