Dom, który słucha: jak inteligentne głośniki i asystenci głosowi zbierają więcej, niż nam się wydaje

Dom, który słucha: jak inteligentne głośniki i asystenci głosowi zbierają więcej, niż nam się wydaje

Inteligentny głośnik ma stać w kuchni i czekać na komendę. Włącz światło, dodaj do listy zakupów, włącz muzykę dzieciom. Między poleceniami wydaje się martwy, ale to złudzenie: mikrofon działa nieprzerwanie, a układ elektroniczny non stop nasłuchuje słowa aktywującego. Wszystko, co usłyszy po nim, trafia na serwery firmy — razem z kontekstem, w którym padło. Ta techniczna prawda zmienia charakter domu: z prywatnego miejsca staje się on też punktem zbierania danych o domownikach.

Słowo aktywujące to nie wyłącznik

Producenci zapewniają, że nagrywanie zaczyna się dopiero po usłyszeniu słowa aktywującego. W praktyce granica ta zawodzi w obie strony. Urządzenie potrafi włączyć się od przypadkowo podobnego dźwięku z telewizora lub rozmowy i nagrać fragment, którego nikt nie chciał wysłać. Odwrotnie: część rozmowy przed komendą też bywa przesyłana, bo system potrzebuje kontekstu, by zrozumieć polecenie. Domownik nie ma jak sprawdzić, co dokładnie opuściło kuchnię i jak długo będzie przechowywane.

Do tego dochodzą błędy obsługi: głośnik włącza się na podobne brzmienie, zamiast świetlnego potwierdzenia odczytuje komendę na głos, a urządzenia sprzęgnięte w jedną sieć reagują razem. To nie są teoretyczne skrupuły — to codzienna praktyka użytkowania, którą producenci znają i którą opisują w swoim regulaminie.

Ludzie, którzy słuchają nagrania

Druga warstwa nadzoru leży poza domem. W kwietniu 2019 roku Bloomberg ujawnił, że Amazon zatrudnia ludzi na całym świecie do odsłuchiwania próbek nagrań z urządzeń Alexa — oficjalnie po to, by poprawiać jakość rozpoznawania mowy. Jak podały wtedy „Time” i BBC, audytorzy przepisywali nawet do stu nagrań dziennie, w tym fragmenty nagrane bez słowa aktywującego albo po przypadkowym włączeniu urządzenia; wówczas ustawienia prywatności Alexy nie pozwalały w ogóle odmówić udziału nagrań w takim przeglądzie. Szybko okazało się, że to nie wpadka jednej firmy: analogiczne praktyki odsłuchiwania nagrań przez ludzi potwierdziły Google i Apple.

Dla użytkownika oznacza to, że zgodzie udzielonej w regulaminie towarzyszy możliwość, o której regulamin mówi małym drukiem: człowiek może posłuchać tego, co padło w prywatnej rozmowie. Nie potrzeba wyroku ani awarii — wystarczy rutyna jakościowa po stronie firmy.

Nagrania jako dowód w sądzie

Trzecia warstwa to prawnicza. Nagrania z inteligentnych głośników są przechowywane na serwerach i mogą być przekazane organom ścigania na wniosek — również wtedy, gdy domownik nie ma o tym pojęcia. Znane są sprawy karne, w których prokuratura żądała danych z głośnika jako dowodu: w stanie Arkansas prokuratura już w 2015 roku zażądała nagrań z Echo w sprawie śmierci mężczyzny w wannie, a w New Hampshire sąd nakazał Amazonowi wydanie nagrań z okresu podwójnego zabójstwa z 2017 roku. Konstelacja jest niepokojąca: urządzenie, które kupiliśmy dla wygody, przechowuje zapis prywatnych rozmów dostępny dla osób trzecich — bez naszej wiedzy, bez naszej decyzji, bez naszej obecności.

Przejęcie urządzenia i dane dzieci

Czwarta warstwa to bezpieczeństwo. Inteligentny dom to sieć sprzęgniętych urządzeń — głośników, kamer, kamerków dla dzieci, termostatów, zamków — z których każde ma własne oprogramowanie, własne luki i własny producent. Przejęcie jednego z nich daje atakującemu dostęp do mikrofonu, obrazu albo harmonogramu domowników. Głośniki i urządzenia dzieci są w tym zestawieniu szczególnie wrażliwe: zbierają dane osób, które nie mogą wyrazić zgody świadomie, a ich oprogramowanie bywa aktualizowane rzadziej niż aplikacje w telefonie.

Co może zrobić użytkownik

Pełnej prywatności w inteligentnym domu nie ma, ale kilka decyzji wyraźnie zmienia bilans. Po pierwsze, miktofon wyłączany fizycznie: urządzenia z fizycznym wyłącznikiem mikrofonu dają kontrolę, której oprogramowanie nie zastąpi. Po drugie, usuwanie nagrań: producenci umożliwiają przegląd i usuwanie historii — warto to robić regularnie, nie raz na rok. Po trzecie, osobne sieci: urządzenia inteligentnego domu powinny pracować w osobnej sieci WiFi, odciętej od komputerów z dokumentami. Po czwarte, zakaz kupowania na zapas: każde nowe urządzenie w domu to nowy nadajnik danych — warto pytać, czy jest naprawdę potrzebne. Po piąte, regulamin: opis przechowywania nagrań i ich odsłuchiwania jest w nim jawny, choć pisany małym drukiem — przeczytanie go raz daje obraz tego, na co się zgodziło.

Oznaczenie treści AI

Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.

Więcej w tym temacie

Czytaj dalej

Kto wyłączył światło? Hallucynacje AI w inteligentnym domu

Kto wyłączył światło? Hallucynacje AI w inteligentnym domu

Sztuczna inteligencja w atakach na infrastrukturę krytyczną

Sztuczna inteligencja w atakach na infrastrukturę krytyczną

Deepfake głosu w oszustwach bankowych na seniorów

Deepfake głosu w oszustwach bankowych na seniorów

AI w szkole: wykrywanie plagiatu algorytmami i fałszywe oskarżenia

AI w szkole: wykrywanie plagiatu algorytmami i fałszywe oskarżenia