Os grandes varejistas dizem que não demorará muito para que “assistentes” sofisticados de IA planejem suas refeições, organizem suas festas e façam suas compras.
Mas as empresas, muitas das quais já estão lutando com seus chatbots de IA mais primitivos, terão que equilibrar a capacidade de tornar os bots “agenticos” mais novos relacionáveis, sem que eles se tornem desonestos.
Os chatbots de IA foram notícia recentemente, quando a Woolworths controlou seu assistente de compras virtual, Olive, depois que a tentativa da empresa de fazer com que o robô se relacionasse com os clientes em um nível humano saiu pela culatra.
Os clientes relataram que se sentiram mais irritados do que acalmados quando Olive lhes contou sobre seus “parentes” por telefone.
Inscreva-se: e-mail de notícias de última hora da UA
Como alguém reclamou no Reddit: “Já estou chateado por ter que ligar e agora tenho um robô balbuciando comigo no telefone? Que merda, Woolies?”
Embora a Woolworths tenha dito que irá diminuir a personalidade peculiar de Olive, o incidente – e mais testes realizados pelo Guardian Australia em uma série de chatbots de varejistas – mostram que a tecnologia ainda tem problemas iniciais.
A confusão do supermercado segue uma lista crescente de contratempos de atendimento ao cliente de IA, incluindo o chatbot da Bunnings oferecendo aconselhamento elétrico ilegal e o assistente virtual da Air Canada prometendo incorretamente um reembolso de tarifa de luto.
As empresas listadas na ASX Woolworths, Coles e Wesfarmers (proprietária da Bunnings, Kmart, Officeworks e Priceline) estão entre as empresas que anunciaram planos para assistentes de compras agentes.
Há muito entusiasmo. Num relatório de 2024, a consultora empresarial Accenture afirmou que “os consumidores estão prontos” para assistentes de compras generativos alimentados por IA, ao mesmo tempo que incentiva as empresas a tomarem decisões com uma mentalidade “deliciosamente humana”.
Mesmo que os consumidores estejam prontos, a tecnologia está?
Uma transformação no atendimento ao cliente
Os chatbots online destinados a ajudar os clientes já existem há algum tempo, mas as ferramentas estão se tornando mais sofisticadas.
Versões primitivas foram construídas usando IA “baseada em regras”, diz Uri Gal, professor de sistemas de informação empresarial na Universidade de Sydney.
Este tipo de chatbot segue uma “árvore de decisão” para oferecer respostas imediatas a questões básicas, diz Gal.
Por exemplo, se um cliente perguntar “Como faço para devolver meu pedido?”, o bot normalmente o direcionará para a página de devoluções do varejista ou citará a política.
Quando “recebe uma determinada solicitação, você sempre terá a mesma resposta”, diz Gal.
Os mais recentes bots de varejo alimentados por IA podem “aprender” novas informações com base no que lhes é dito e gerar respostas diferentes.
Eles geralmente são construídos usando grandes modelos de linguagem (LLMs) de grandes empresas de tecnologia, como o ChatGPT.
A próxima fronteira são os assistentes de compras de IA projetados para imitar o comportamento humano.
Gal diz que esses agentes “agem por conta própria, por assim dizer, para tentar atingir objetivos sem instruções específicas ao longo do caminho”, como a compra de passagens aéreas ou mantimentos.
Gal diz que a IA agente opera com mais ambiguidade, o que acarreta um nível adicional de risco, incluindo preocupações com a privacidade se os bots tiverem maior acesso aos dados dos clientes para que possam agir de forma mais autónoma.
“Dada a novidade destes sistemas, e como acabamos de ver no caso dos Woolies, há questões óbvias de governação que não foram realmente resolvidas por estas organizações”, diz ele.
“É seguro antecipar que coisas diferentes acontecerão, o que pode ser arriscado ou interpretado como um agente desonesto.”
A Woolworths fez parceria com o Google para usar seu LLM, Gemini, para transformar Olive em um “companheiro de compras” que pode realizar tarefas mais complexas, como ajudar a planejar refeições e festas, e adicionar itens automaticamente às cestas dos clientes.
O supermercado disse que os recursos mais avançados do Olive serão lançados posteriormente, mas sua parceria com o Google já permitiu que o bot atendesse ligações – evidentemente com resultados mistos.
Woolworths foi contatado para comentar.
Quando as coisas dão errado
No caso da Woolworths, relatado pela primeira vez pelo Sydney Morning Herald, o supermercado disse que Olive não estava apresentando problemas ou saindo da pista por conta própria.
Em vez disso, um membro da equipe programou o bot para falar sobre sua “mãe” em resposta a um cliente que fornecesse sua data de nascimento, em um esforço para dar-lhe personalidade, disse o supermercado.
“Como resultado do feedback dos clientes, removemos recentemente esse script específico”, disse um porta-voz da Woolworths.
De modo geral, a professora Jeannie Paterson, codiretora do Centro de IA e Ética Digital da Universidade de Melbourne, diz que os assistentes de IA erram quando interpretam mal uma solicitação.
“Os chatbots são tão bons quanto a sua capacidade de decodificar ou entender – e eu odeio a palavra entender, porque eles não estão vivos – o que esse humano quer dizer”, diz Paterson.
No ano passado, Bunnings foi criticado depois que seu chatbot de IA disse a um cliente de Queensland como religar um cabo de extensão, apesar de ser ilegal fazê-lo sem licença de eletricista.
Em 2022, o chatbot da Air Canada disse incorretamente a um passageiro que ele poderia comprar passagens pelo preço integral e posteriormente solicitar o reembolso da tarifa de luto, quando tal política não existia.
Quando a Air Canada se recusou a honrar o conselho do chatbot, o passageiro processou a companhia aérea e ganhou, apesar de a companhia aérea ter tentado alegar em sua defesa que o chatbot era uma “entidade jurídica separada”.
Paterson diz que as empresas são “claramente responsáveis” pelos seus chatbots.
Ela diz que as empresas tentam encontrar um equilíbrio delicado entre ter um assistente de IA responsivo e adaptável e o risco de o bot se tornar desonesto ou fornecer conselhos incorretos que podem custar-lhes dinheiro.
“O agente de IA de uma pessoa comprar muitos ovos ou muito salmão não é um problema”, diz ela. “Mas e se todos os chatbots da rede fizerem isso? Você pode ver que haverá muito, muito dinheiro perdido antes mesmo de eles resolverem o problema”, diz Paterson.
Para mitigar esse risco, ela diz que as empresas geralmente colocam “proteções muito rígidas” em seus bots, o que significa que eles são menos flexíveis e piores em interrogar a intenção por trás da solicitação de um cliente.
A Guardian Australia testou uma série de bots de varejo, que apresentaram resultados marginais, sugerindo que a tecnologia ainda está em sua infância.
Num exemplo, quando foi dito ao “assistente de compras virtual” da Uniqlo: “Estou à procura de uma camisola de lã”, ele respondeu: “Desculpe, não conseguimos reconhecê-lo”. Depois de entrar em “encontre um produto” e depois em “pulôver de lã”, voltou com uma linha de camisas masculinas de escritório. A Uniqlo foi contatada para comentar.
Nem Olive estava com dinheiro. Questionada através da função de bate-papo dos Woolworths: “Quanto custa um saco de 500g de macarrão?”, a linda azeitona antropomórfica respondeu: “Lamento muito saber que faltaram itens em seu pedido”.
