Os hackers usaram o chatbot de suporte baseado em IA da Meta para se infiltrar em contas importantes do Instagram, confirmou a empresa na segunda-feira, dizendo que havia resolvido o problema depois que pesquisadores o expuseram.
Os alvos variaram desde a conta de Barack Obama na Casa Branca até a Sephora e o sargento-chefe da Força Espacial dos EUA, de acordo com reportagem da 404 Media. Usuários comuns reclamaram de sequestros semelhantes no Reddit e no X no fim de semana.
Pesquisadores de segurança e grupos de hackers postaram vídeos e capturas de tela de como roubar uma conta no Telegram, e um vídeo compartilhado no X parece mostrar um hacker dizendo ao assistente de IA do Meta para vincular a conta a um novo endereço de e-mail; o bot garante ao hacker que um código de verificação foi enviado para o novo e-mail e pede para inserir os números na interface de chat.
Depois que o hacker cola o número correto, é mostrado um botão para redefinir a senha das contas alvo. Em pelo menos um vídeo, o hacker usou uma rede privada virtual para falsificar a localização do titular da conta e evitar as salvaguardas do Meta.
Meta disse em comunicado: “Este problema foi resolvido e estamos protegendo as contas afetadas”. Não está claro quantas contas foram afetadas.
A violação levanta preocupações sobre o quão seguro é confiar na IA para medidas de segurança importantes, como senhas.
A Meta, que está reorganizando rapidamente o trabalho de seus trabalhadores em torno da IA e aumentando o uso de recursos de IA em suas plataformas, lançou o assistente de suporte de IA globalmente no Facebook e Instagram no início deste ano. O comunicado de imprensa sobre o novo recurso de IA explicou que o novo assistente de suporte de IA pode “tomar medidas para você em um conjunto crescente de solicitações diretamente no Facebook e, no futuro, no Instagram”.
A lista de ações incluía denúncia de golpes, falsificação de identidade de contas ou conteúdo problemático, bem como redefinição de senhas.
“O assistente de suporte Meta AI é um passo importante em nosso trabalho para fornecer suporte mais forte em nossos aplicativos”, diz um comunicado de imprensa de março da Meta.