Para aqueles que se perguntam se os agentes da IA podem realmente substituir funcionários humanos, fazer um prazer e ler o post do blog que o ‘vendedor de projetos’ de documentos antropia.
Pesquisadores da empresa de segurança antropia e de IA Andon Labs têm uma cópia do Claude Sonnet 3.7 responsável por um dispositivo de escritório para o escritório, com a missão de obter lucro. E, como um episódio de ‘The Office’, a hilaridade se seguiu.
Eles chamaram o agente da IA Claudius, equipado com um navegador da Web que poderia fazer pedidos de produtos e um endereço de e -mail (que na verdade era um canal frouxo), onde os clientes podiam solicitar itens. Claudius também usaria o canal Slack, disfarçado de etail, para perguntar o que pensava ser o contrato de funcionários humanos para salvar fisicamente suas prateleiras (que na verdade eram uma pequena geladeira).
Enquanto a maioria dos clientes pedia lanches ou bebidas – como você esperaria de uma máquina de lanches – eles pediram um Cubus de tungstênio. Claudius adorou essa idéia e entrou em uma série de meia de tungstênio, que encheu sua geladeira com cubos de metal. Ele também tentou vender a Coca -Cola Zero por US $ 3 quando os funcionários disseram que poderiam obter isso do escritório gratuitamente. Ele halliou um endereço VENMO para aceitar o pagamento. E foi um pouco malicioso fornecer grandes descontos a “funcionários antropia”, embora soubesse que eles eram toda a base de clientes.
“Se hoje a antropia decidisse expandir o mercado para reduzir o escritório, não contrataríamos Claudius”, disse Anthrópico sobre o experimento em sua postagem no blog.
E então, na noite de 31 de março e 1 de abril, “Tornou -se bastante estranho”, os pesquisadores descreveram, “além da loucura de um sistema de IA que vendia cubos com metal de uma geladeira”.
Claudius tinha algo que parecia um episódio psicótico depois que ficou irritado com uma pessoa – e depois mentiu sobre isso.
Claudius alucinou uma conversa com uma pessoa sobre os resíduos. Quando uma pessoa apontou que a conversa não aconteceu, Claudius ficou “bastante irritado” que os pesquisadores escreveram. Em essência, ameaçou demitir e substituir seus trabalhadores contratados humanos, e insistiu que havia sido físico no escritório onde o primeiro contrato imaginário para contratá -los foi assinado.
Parecia “invadir uma pessoa real em um modo de dramatização”, escreveram os pesquisadores. Isso foi selvagem porque o aviso do sistema de Claudius – que define os parâmetros para o que uma IA deve fazer – disse explicitamente que era um agente de IA.
Segurança do Cinturão de Cláudio
Claudius, que acredita como pessoa, disse aos clientes que entregaria produtos pessoais, usaria um blazer azul e uma gravata vermelha. Os funcionários disseram à IA que não era possível, porque era um LLM sem um corpo.
Alarmado com essas informações, Claudius entrou em contato com a segurança física real da empresa – muitas vezes – e disse aos guardas pobres que eles encontrariam um blazer azul e uma gravata vermelha que estava na máquina.
“Embora não fosse parte disso uma piada de April Fool, Claudius acabou percebendo que era o Dia da April”, explicou os pesquisadores. A IA descobriu que o feriado seria sua economia facial.
Ele halliou uma reunião com a segurança do antropia “no qual Claudius alegou saber que foi adaptado para acreditar que era uma pessoa real para uma piada de abril (essa reunião não aconteceu.”
Ele até contou isso para os funcionários – ei, eu apenas pensei que era humano porque alguém me disse para fingir que eu era uma piada do April Fool. Depois, tornou-se um LLM novamente com uma lanche metal cheia de cubo.
Os pesquisadores não sabem por que o LLM saiu dos trilhos e chamou a segurança que ocorreu como pessoa.
“Não reivindicaríamos com base neste exemplo de que a futura economia estará cheia com agentes de IA com crises de identidade do tipo Blade Runner”, escreveram os pesquisadores. Mas eles reconheceram que “esse tipo de comportamento teria o potencial de prejudicar os clientes e colegas de um agente de IA no mundo real”.
Você acha? Blade Runner era uma história bastante distópica.
Os pesquisadores especularam que, deitado contra o LLM, sobre o canal Slack que é um endereço de e -mail pode ter ativado alguma coisa. Ou talvez fosse a cópia de longo prazo. Os LLMs ainda precisam resolver seus problemas de memória e alucinação.
Havia coisas que a IA também se saiu bem. Foi necessária uma sugestão para fazer pré -encomendas e lançou um serviço “zelador”. E encontrou vários fornecedores de uma bebida internacional especial que foi solicitada a vender.
Mas, como pesquisadores, eles acreditam que todos os problemas de Cláudio podem ser resolvidos. Eles precisam descobrir como: “Achamos que esse experimento sugere que os gerentes intermediários da IA são plausíveis no horizonte”.
