Chatbot da Air Canada inventou um desconto e aérea foi obrigada a bancar a oferta; entenda

Após a morte de sua avó em Ontário, Canadá, Jake Moffatt acessou o site da Air Canada para reservar um voo para o funeral. Ele recebeu assistência de um chatbot, que afirmou disse que a companhia aérea oferecia tarifas reduzidas para passageiros que reservassem viagens de última hora devido a tragédias.

Moffatt comprou uma passagem de quase US$ 600 para um voo no dia seguinte depois que o chatbot disse que ele receberia parte de seu dinheiro de volta de acordo com a política de luto da companhia aérea, desde que fizesse a solicitação dentro de 90 dias, de acordo com uma decisão recente do tribunal de resoluções civis.

Porém, quando Moffatt tentou receber o desconto mais tarde, descobriu que o chatbot estava errado. A Air Canada só concedia taxas de luto se a solicitação tivesse sido enviada antes de um voo. Posteriormente, a companhia aérea argumentou que o chatbot era uma entidade legal separada “responsável por suas próprias ações”, segundo a decisão.

Moffatt entrou com uma ação no tribunal canadense, que decidiu na quarta-feira, 13, que a Air Canada devia a Moffatt mais de US$ 600 em danos e taxas judiciais por não ter fornecido “cuidados razoáveis”.

Como as empresas adicionaram chatbots com inteligência artificial (IA) a seus sites na esperança de fornecer um serviço mais rápido, a disputa da Air Canada lança luz sobre os problemas associados a uma tecnologia em crescimento e como os tribunais poderiam abordar questões de responsabilidade. O tribunal canadense nesse caso ficou do lado do cliente, decidindo que a Air Canada não garantiu que seu chatbot fosse preciso.

“Embora um chatbot tenha um componente interativo, ele ainda é apenas uma parte do site da Air Canada”, escreveu Christopher Rivers, membro do tribunal, em sua decisão. “Deveria ser óbvio para a Air Canada que ela é responsável por todas as informações em seu site. Não faz diferença se a informação vem de uma página estática ou de um chatbot.”

Um porta-voz da Air Canada disse em uma declaração ao The Washington Post que a companhia aérea cumprirá a decisão do tribunal.

Moffatt visitou o site da Air Canada pela primeira vez em 11 de novembro de 2022 - o dia em que sua avó morreu, de acordo com o tribunal. Lá, ele perguntou ao chatbot sobre as tarifas de luto.

As respostas do chatbot foram vinculadas à página da web da companhia aérea que detalhava sua política de viagem de luto. A página da web afirma que a companhia aérea proíbe “reembolsos para viagens que já aconteceram”.

Moffatt, confiando nas instruções do chatbot, reservou uma passagem só de ida por cerca de US$ 590 de Vancouver para Toronto, segundo a decisão. Alguns dias depois, ele pagou cerca de US$ 627 por um voo de volta.