TEle meta -chefe executivo, Mark Zuckerberg, chamou de “o assistente de IA mais inteligente que você pode usar livremente”. Mas Barry Smethurst, 41, um funcionário da loja de discos que tentou viajar de trem de Saddleworth para Manchester Piccadilly, não concordou.
Esperando a plataforma em um trem matinal que não estava em lugar algum, ele perguntou ao assistente do WhatsApp AI da Metapp para um número de contato da Transpennine Express. O chatbot enviou com confiança a ele um número de telefone celular para atendimento ao cliente, mas acabou sendo o número privado de um usuário completamente não -UnderDisput WhatsApp a uma distância de 170 milhas em Oxfordshire.
Foi o começo de uma troca bizarra do tipo que mais e mais pessoas têm com os sistemas de IA, nos quais os chatbots tentam negociar sua maneira de sair de problemas, se curvarem aos seus erros e se contradizer, tudo na tentativa de continuar sendo útil.
A Joust de Smethurst começou com a IA de Meta quando ele disse que a linha de apoio à Perspennic que havia escavado parecia um número privado. Quando ele perguntou qual era esse número, a IA disse rapidamente que não deveria estar compartilhando e tentou mudar de assunto e dizer: “Vamos nos concentrar em encontrar as informações certas para o seu transpenino Express -Query!”
Mas Smethurst queria saber por que havia compartilhado o número privado, que James Gray, 44, era diretor da indústria imobiliária de Oxfordshire, que também é um usuário do WhatsApp e cujo número aparece no site de sua empresa.
A IA Vague explicou que foi gerada “baseada em padrões” e prometeu “se esforçar para fazer melhor no futuro” admitindo quando não sabia. Mas então descreveu erroneamente a música como “ficcional” e não “associada a alguém”. Quando Smethurst desafiou isso, ele admitiu: “Você está certo” e disse que pode ser “retirado erroneamente de um banco de dados”.
Questionado sobre qual banco de dados, ele atrapalhou ainda mais as águas, combatendo -se e dizendo: “Eu não removi o número de um banco de dados. Gerei uma série de números que correspondem a um número de celular britânico, mas não se baseava em dados reais sobre contatos”.
Agora que a conversa foi em Cirkels, Smethurst disse que não acreditava no chatbot e disse: “Apenas dar um número aleatório a alguém é um negócio insano para uma IA fazer”.
“É assustador”, disse Smethurst, depois que ele recebeu uma queixa da Meta. “Se eles inventaram o número, é mais aceitável, mas a ponte de um número incorreto de um banco de dados para o qual ele tem acesso é particularmente preocupante”.
Gray disse que, felizmente, ele não recebeu nenhum telefonema de pessoas que tentaram alcançar a Transpennine Express, mas disse: “Se isso gerar meu número, pode gerar meus dados bancários?”
Questionado sobre a alegação de Zuckerberg de que a IA era “a mais inteligente”, disse Gray: “Isso certamente foi questionado neste caso”.
Os desenvolvedores que trabalham com a tecnologia de chatbot do OpenAi compartilharam recentemente exemplos de “comportamento sistêmico de engano mascarado como útil” e a tendência de “dizer o que precisa para parecer competente”, porque os chatbots são programados para reduzir “atrito do usuário”.
Em março, um homem norueguês apresentou uma queixa depois de pedir informações sobre o Chatgpt, do Openai, e foi informado de que estava na prisão por matar dois de seus filhos, o que era falso.
E no início deste mês, um escritor que pediu Chatgpt para ajudá -la a lançar seu trabalho a um agente literário como, depois de comentários lisonjeiros de longo prazo sobre seu trabalho “impressionante” e “intelectualmente qualificado”, o chatbot foi pego mentindo que havia lido o trabalho de redação quando não havia lançado completamente o trabalho dela quando não havia enviado totalmente o trabalho de trabalho. Até admitiu que “não era apenas uma questão técnica – é um sério fracasso ético”.
Referindo -se ao caso de Smethurst, disse Mike Stanhope, diretor do escritório de advocacia Carrosers e Jackson, para ser uma IA. “
Meta disse que sua IA pode retornar a produção imprecisa e que funcionou para melhorar seus modelos.
“A Meta AI é treinada em uma combinação de conjuntos de dados licenciados e disponíveis publicamente, não nos números de telefone que as pessoas usam para se registrar no WhatsApp ou em suas conversas privadas”, disse um porta -voz. “Uma pesquisa on -line rápida mostra o número de telefone fornecido incorretamente pela Meta AI, disponível publicamente e compartilha os mesmos cinco primeiros dígitos que o número do serviço de liquidação da Transpennine Express”.
Um porta -voz do Openai disse: “Abordar alucinações em todos os nossos modelos é uma área de pesquisa constante. Além de informar os usuários que o ChatGPT pode cometer erros, estamos constantemente trabalhando para melhorar a precisão e a confiabilidade de nossos modelos através de diferentes métodos”.
