Air Canada i chatbot, który zmyślił politykę biletową: kiedy firma odpowiada za to, co wymyśli sztuczna inteligencja
Chatbot, który obiecał zwrot, którego nie było
W listopadzie 2022 roku pasażer z Kolumbii Brytyjskiej kupił bilet Air Canada, aby polecieć na pogrzeb dziadka. Przed dokonaniem rezerwacji zapytał franczyzowego chatbota obsługi klienta, czy linia oferuje zniżkę żałobową (ang. bereavement fare) oraz czy można wystąpić o zwrot różnicy retroaktywnie. Chatbot odpowiedział twierdząco: informował, że zniżka rzędu dziesięciu procent dostępna jest przy każdym locie, a o zwrot można wystąpić w ciągu 90 dni od daty wydania biletu — również po odbytej podróży, której dotyczyła rezerwacja.
Pasażer kupił bilet po standardowej cenie, odbył lot, a następnie wystąpił do Air Canada o zwrot różnicy, powołując się na obietnicę chatbota. Decyzja linii była odmowna — zgodnie z taryfą publikowaną na stronie, o zniżkę żałobową należało wystąpić w momencie zakupu biletu, przed lotem, a nie po jego odbyciu. Kiedy podróżny zwrócił uwagę na słowa chatbota, Air Canada odesłała go do regulaminu dostępnego na stronie internetowej. Pasazer skierował sprawę do kanadyjskiego Civil Resolution Tribunal (CRT) — pierwszego w Kanadzie trybunału administracyjnego rozpatrującego spory przez internet, funkcjonującego w Kolumbii Brytyjskiej od 2015 roku.
Halucynacja AI jako zbiorna umowa
W lutym 2024 roku CRT wydał wyrok korzystny dla pasażera, nakazując Air Canada wypłacić odszkodowanie oraz uszanować politykę biletową, którą zmyślił support chatbot. Trybunał orzekł, że chatbot obsługi klienta, będąc częścią serwisu Air Canada, stanowił oficjalny kanał komunikacji linii lotniczej. Z tego tytułu obietnica zniżki żałobowej złożona przez chatbot była obowiązująca i mogła stanowić podstawę odpowiedzialności przewoźnika przed klientem.
Zasadniczym punktem wyroku było odrzucenie argumentu, że chatbot jest osobnym podmiotem prawnym, samodzielnie odpowiedzialnym za własne działania. W pismie procesowym przedstawiciel Air Canada twierdził, jakoby chatbot był „osobnym podmiotem prawnym, odpowiedzialnym za własne działania”. CRT jednoznacznie odrzucił linię obrony, wskazując, że linia lotnicza nie może uciec przed odpowiedzialnością za to, co mówią jej mechanizmy sztucznej inteligencji. Wyrok opierał się na spostrzeżeniu, że nie można eksternalizować odpowiedzialności za komunikację organizacji z klientem tylko dlatego, że tę komunikację prowadzi algorytm.
Sprawa wpisuje się w szerszy fenomen halucynacji systemów sztucznej inteligencji — zjawiska, w którym modele językowe z pewnością siebie przedstawiają fakty, które nie istnieją. Trybunał w uzasadnieniu opisał działanie chatbota jako rodzaj halucynacji: zmyślił nieistniejącą politykę zniżkową, dając pasażerowi fałszywą obietnicę, która nigdy nie była odzwierciedleniem realnej procedury linii.
Wśród urywków, które AI wymyśla
Sprawa Air Canada jest szczególnie wartościowym przypadkiem, ponieważ dotyczy obszaru, w którym obowiązek informowania konsumenckiego ma skonkretyzowaną formę prawną: w transporcie lotniczym taryfy przewozowe są publicznie dostępne, a zniekształcenie ich treści przez komunikację sterowaną AI uderza w podstawowe prawo pasażera do dostępu do informacji o świadczeniu, które kupuje. To, że chatbot wygenerował fałszywe podsumowanie tej taryfy, zagraża ochronie konsumentów w sektorze, w którym standardy są uwarunkowane uregulowaniami międzynarodowymi (Konwencja montrealska o odpowiedzialności przewoźników lotniczych) oraz krajowymi.
Jednocześnie sprawę tę można zrozumieć na tle innych znanych przypadków halucynacji AI, które pojawiły się przed lutym 2024 roku. Wpis hasła „Hallucination (artificial intelligence)” na Wikipedii anglojęzycznej wylicza serię podobnych incydentów. W 2023 roku amerykański prawnik Steven Schwartz przekazał stanowisko sądu precedensami, które zmyślił ChatGPT w sprawie Mata v. Avianca; prawnik został ukarany, a sędzia orzekł, że ma obowiązek weryfikacji autentyczności źródeł. W sprawie Air Canada trybunał poszedł o krok dalej: przeciętny klient nie ma zasobów ani obowiązku weryfikacji, czy to, co mu mówi chatbot dużej firmy, ma odpowiadać rzeczywistości. Firma nie może przekazać odpowiedzialności na algorytm.
W piśmie procesowym Air Canada pogłębiła swoją obronę, twierdząc, że pasażer powinien był sprawdzić aktualną taryfę na stronie internetowej, zamiast ufać rozmówcy z chatbotu. CRT odparł, że pasażer nie może być obowiązany weryfikować każdej wypowiedzi chatbota z formalnym dokumentem firmy, jeśli ten chatbot jest oficjalnym interfejsem firmy, do którego klient się zwraca. Inaczej chatbot stawałby się drogo płatnym proxy do automatycznego obciążania klienta obowiązkami weryfikacji.
Konsekwencje precedensu
Wyrok w sprawie Air Canada odegrał rolę iskry, która zwróciła uwagę regulatorów i organizacji konsumenckich na zagrożenie, że wdrożenie AI w obsłudze klienta może prowadzić do systemowych naruszeń praw konsumentów. Po publikacji wyroku w lutym 2024 roku Air Canada dezaktywowała chatbota obsługi klienta, aby zapobiec podobnym incydentom w czasie audytu swojego systemu. W Kolumbii Brytyjskiej i innych prowincjach Kanady rozpoczęto dyskusję na temat konieczności sformułowania jasnych wytycznych dotyczących tego, w jakim stopniu firmy mogą zrzucać odpowiedzialność za działania swoich narzędzi AI.
Sprawa wpisuje się również w szerszy trend prawnych konsekwencji AI, które rodzą się w ostatnich latach na całym świecie. W Unii Europejskiej W ramach wdrożenia AI Act — regulation, która weszła w życie 1 sierpnia 2024 roku — opublikowano 10 lipca 2025 roku General-Purpose AI Code of Practice, który nakłada na podmioty szkolące modele obowiązek publikowania podsumowania danych treningowych oraz przyjęcia polityki zgodności z prawem autorskim. Z kolei w Stanach Zjednoczonych precedens w sprawie Walters v. OpenAI w maju 2025 roku potwierdził, że halucynacje AI mogą być podstawą odpowiedzialności cywilnej — pokazując, że ścieżka prawna wykorzystana przez Moffatta może być powtarzalna dla innych poszkodowanych.
O tym, jak konsumenci mogą obronić się przed halucynacjami AI w obsłudze klienta, decydują dwa aspekty: po pierwsze, obowiązujące ramy prawne odpowiedzialności firmy za AI, którą wykorzystuje; po drugie, stan świadomości konsumentów, że rozmowa z chatbotem może w rzeczywistości być rozmową z systemem, który nie zna prawdy o świecie. W przypadku Air Canada odpowiedzialność wygrała z obietnicą AI. AI nie może decydować, co jest umową — tę rolę odgrywa prawo i trybunały.
Lekcja dla firm, które okienka rozmów zamieniają na AI
Dla biznesu sprawa Moffatta dostarcza kilku praktycznych wniosków. Po pierwsze, firma, która wdraża sztuczną inteligencję w komunikacji z klientem, ponosi odpowiedzialność za wszystko, co ten mechanizm mówi — niezależnie od tego, czy wypowiedź zbiega się z rzeczywistą polityką firmy. Po drugie, nie można zastosować klauzuli o tym, że chatbot jest osobnym podmiotem prawnym — trybunał wskazał, że AI nie ma osobowości prawnej, a zatem nie ma także samodzielnej odpowiedzialności. Po trzecie, w projektowaniu systemów obsługi klienta firma musi zastosować mechanizmy silniejszego ograniczania generowanych treści, szczególnie jeśli dotyczą one cen, zniżek, progresywnej polityki czy terminów ochronnych umożliwiających zwrot środków.
Praktyczną radą jest zabezpieczenie takich systemów przez ograniczenie momentów, w których AI operuje swobodnie — zastąpienie swobodnych odpowiedzi generatywnych weryfikowanym doborem ze z góry określonego zbioru dopuszczalnych komunikatów. W obsłudze klienta, gdzie jeden punkt jest umową liczącą się do bilansu strat, dopuszczenie swobodnej generacji musi być ograniczone przez rygorystyczne reguły. Nawet w sytuacjach, w których polityka firmy mogłaby zostać przypadkowo zmodyfikowana, generowanie tekstu bez weryfikacji może być równie niebezpieczne, jak danie użytkownikowi dostępu do bazy danych finansowych z prawem zapisu.
Ostatecznie sprawa Air Canada przeciwko Moffattowi pozostanie zapamiętana jako przykład tego, że dopóki sztuczna inteligencja nie jest wystarczająco dokładna w faktach, dopóty ryzyko pewności siebie modelu językowego pozostanie realne. Wdrożenie generatywnych modeli językowych do obsługi klientów jest opłacalne, ale trzeba pamiętać, że to, co AI zmyśli, zyskuje status deklaracji firmy. Klient nie może być pociągnięty do odpowiedzialności za różnicę między tym, co AI mówi, a rzeczywistą polityką. Sprawa ta była krokiem milowym, w którym sąd wykazał, że reguły odpowiedzialności konsumenckiej mogą silnie ograniczać stosowanie generatywnej AI w systemach produkcyjnych.
