Um agente de IA se tornou desonesto na Meta, expondo dados confidenciais da empresa e do usuário a funcionários que não tinham permissão de acesso.
De acordo com um relatório de incidente, que foi visualizado e relatado pelo The Information, um funcionário da Meta postou em um fórum interno pedindo ajuda com uma questão técnica – o que é uma ação padrão. No entanto, outro engenheiro pediu ajuda a um agente de IA para analisar a questão, e o agente acabou postando uma resposta sem pedir permissão ao engenheiro para compartilhá-la. Meta confirmou o incidente ao The Information.
Acontece que o agente de IA não deu bons conselhos. O funcionário que fez a pergunta acabou agindo com base na orientação do agente, que inadvertidamente disponibilizou enormes quantidades de dados da empresa e dos usuários para engenheiros que não estavam autorizados a acessá-los por duas horas.
A Meta considerou o incidente “Sev 1”, que é o segundo nível mais alto de gravidade no sistema interno da empresa para medir problemas de segurança.
Agentes de IA desonestos já representaram um problema na Meta. Summer Yue, diretora de segurança e alinhamento da Meta Superinteligência, postou no X no mês passado descrevendo como seu agente OpenClaw acabou excluindo toda a sua caixa de entrada, embora ela tenha dito para confirmar com ela antes de tomar qualquer ação.
Ainda assim, Meta parece otimista quanto ao potencial da IA agente. Na semana passada, a Meta comprou o Moltbook, um site de mídia social semelhante ao Reddit para que os agentes do OpenClaw se comuniquem entre si.
