Um hotel processado por intoxicações alimentares em massa foi descrito como “impecável” e um resort onde os hóspedes se queixaram de assédio sexual por parte dos funcionários foi elogiado pelo serviço “amigável” por uma IA destinada a resumir milhões de avaliações do Tripadvisor.
As análises dos comentários dos clientes minimizaram reclamações graves, que vão desde a resistência do mofo à falta de água da rede, de acordo com uma investigação da organização de campanha do consumidor Which?
As avaliações geradas por IA aparecem nas páginas dos hotéis do site de viagens para ajudar os turistas a decidir onde reservar. Num caso, o resumo da AI descreveu o Riu Palace Santa Maria em Cabo Verde como popular, com quartos espaçosos, “restaurantes diversos” que recebem “ótimas críticas” e limpeza impecável.
Mesmo assim, os clientes relataram ter sido servido frango cru, compartilharam fotos de moscas e pássaros no bufê e relataram “ratinhos assados mortos na área de estar”. Um hóspede cuja família inteira ficou doente escreveu: “Este lugar vai destruir os feriados”.
A rede hoteleira está sendo processada no tribunal superior por centenas de hóspedes, alegando doenças ligadas a padrões de higiene inadequados e falhas na segurança alimentar.
A avaliação gerada por IA para o hotel em Cabo Verde já não está disponível. O seu operador, RIU Hotels & Resorts, afirmou: “Operamos com os mais elevados padrões de profissionalismo e serviço, colocando a segurança higiénico-sanitária como a nossa principal prioridade”.
O Tripadvisor disse que está monitorando e refinando sua ferramenta de IA, mas está “confiante de que esses recursos estão entregando exatamente o que foram projetados para fazer”. Fotografia: Jakub Porzycki/NurPhoto/Rex/Shutterstock
A IA elogiou um hotel separado na República Dominicana por suas comodidades “abundantes”, com apenas uma referência à limpeza “inconsistente” e aos “problemas de manutenção”. Mas os convidados relataram que tomaram banho com água engarrafada porque as torneiras da rede elétrica secaram e todas as outras pessoas em uma grande festa de casamento ficaram doentes.
Enquanto isso, os hóspedes de um hotel na Turquia escreveram que se sentiam inseguros devido ao assédio sexual repetido por parte de funcionários masculinos do hotel, incluindo pedidos para se conectarem nas redes sociais, mas o resumo da IA descreveu o serviço como “amigável” e apenas disse “lapsos (no serviço) observados por alguns”, quais? encontrado.
O Tripadvisor disse que estava monitorando e refinando sua ferramenta de IA e “analisando exemplos em que as avaliações não correspondiam à propriedade pretendida”. Mas disse estar “confiante de que esses recursos estão oferecendo exatamente o que foram projetados para fazer: ajudar os viajantes a compreender rapidamente a amplitude do feedback e, ao mesmo tempo, facilitar a exploração completa das avaliações subjacentes”.
Afirmou que os resumos gerados pela IA não substituíram as avaliações dos viajantes e que os clientes tiveram o bom senso de comparar qualquer conselho da IA com os mais de mil milhões de avaliações e contribuições que reuniu.
Rory Boland, editor de Qual? Travel, disse: “A plataforma tem a responsabilidade de revisar a precisão de seus resumos de IA e chatbot de IA. Enquanto isso, os usuários devem passar por esses resumos e olhar as avaliações dos hóspedes, especialmente as avaliações de uma estrela, e as avaliações em outros sites, para garantir que sua próxima estadia seja segura”.
pular a promoção do boletim informativo
Inscreva-se para TechScape
Um mergulho semanal em como a tecnologia está moldando nossas vidas
após a promoção do boletim informativo
O Tripadvisor afirmou que seus sistemas suprimem automaticamente os resumos de IA quando os viajantes alertam sobre incidentes graves de segurança, como morte, uso de drogas ou agressão sexual, “ajudando a garantir que esse conteúdo seja altamente visível para nossa comunidade”.
Duncan Brumby, professor de interação humano-computador na University College London, disse que o caso está de acordo com sua própria pesquisa sobre acadêmicos que usam IA durante o processo de revisão por pares. Ele descobriu que a IA tende a “limpar e eliminar as arestas” das críticas mais contundentes, provavelmente porque a maior parte dos dados de treinamento contém muito mais observações insípidas.
“Aqui você tem convidados descrevendo uma experiência realmente negativa, mas a IA decidiu diminuir o tom”, disse ele. “É como se fosse educado.”
Outros estudos descobriram que as tecnologias para resumir opiniões muitas vezes sofrem de um ponto cego, o que significa que, quando concebidas, reduzem a riqueza do feedback do consumidor a sentimentos mais superficiais.
Este ano, o Google removeu alguns de seus resumos de saúde de IA depois que uma investigação do Guardian descobriu que pessoas estavam correndo risco de danos por informações falsas e enganosas.