A carta de fiscalização do governo dos EUA à Anthropic, que efetivamente forçou a empresa a retirar seus mais recentes modelos de IA do ar pouco antes do fim de semana, deveria ser um alerta para qualquer empresa de tecnologia dos EUA – laboratório de IA ou outro.
Para ficar por dentro das notícias: na tarde de sexta-feira, o Departamento de Comércio dos EUA enviou à Anthropic uma carta invocando uma obscura diretiva de controle de exportação que proibia não-americanos, incluindo funcionários da Anthropic, de acessar Fable 5 e Mythos 5, citando uma preocupação de segurança nacional não especificada. A Anthropic disse acreditar que a carta está relacionada a um desvio das grades de proteção do modelo, mas não tem certeza porque a carta não fornece detalhes específicos. A carta não foi tornada pública.
Em resposta, a Anthropic fechou ambos os seus modelos de topo a todos os clientes para garantir que cumpriam a directiva. O resultado foi que o governo dos EUA forçou com sucesso uma empresa de tecnologia a retirar os seus modelos do ar com uma ação rápida e unilateral que não parecia exigir aprovação judicial.
A intervenção de sexta-feira da administração Trump mostra que a indústria de IA não está imune à interferência governamental. É também um aviso para a indústria de tecnologia em geral: cumpra ou poderemos encerrar você e seus produtos.
Citando fontes, Axios descreveu uma situação tensa no fim de semana entre os dois principais players, dizendo que as “diferenças de personalidade” entre a Anthropic e a administração Trump levaram à diretiva de exportação, em vez de um problema técnico com os produtos de IA.
Novos detalhes sobre a questão que surgiram no fim de semana lançam agora mais dúvidas sobre o raciocínio já instável do governo.
Katie Moussouris, uma veterana em segurança cibernética e pesquisadora que fundou a Luta Security, disse em uma postagem de blog que a Anthropic recentemente compartilhou com ela uma cópia privada de um artigo escrito por pesquisadores de segurança descrevendo um suposto desvio de guardrail em Fable 5. (O Wall Street Journal relata que os autores do artigo são pesquisadores de segurança da Amazon.) Moussouris disse que a Anthropic entrou em contato para pedir sua opinião sobre o artigo.
A postagem no blog de Moussouris descreveu como os pesquisadores acionaram o desvio do guardrail, mas disseram que o desvio em si “nunca deveria ter acionado um controle de exportação”. A diferença está em grande parte entre pedir a um modelo de IA para “revisar o código em busca de problemas de segurança” e pedir para ele “consertar esse código”. O resultado final é basicamente o mesmo, mesmo que as questões sejam colocadas de forma ligeiramente diferente.
“O comportamento descrito no documento não pode ser corrigido de forma significativa e qualquer tentativa apenas enfraqueceria o modelo de defesa”, disse Moussouris, que considerou a directiva de controlo das exportações precipitada, pesada e equivocada.
Desde então, Moussouris e dezenas de outros investigadores e especialistas em segurança apelaram à administração Trump para revogar a ordem de controlo das exportações, classificando como “perigosa” a medida para retirar capacidades avançadas de segurança cibernética dos defensores da rede nos EUA.
As administrações anteriores tomaram decisões abrangentes sobre as lacunas de conhecimento. Por exemplo, a linguagem utilizada pelo governo dos EUA durante a década de 2010 para corrigir a legislação de exportação que abrange ferramentas de segurança cibernética que também poderiam ser utilizadas para ataques cibernéticos foi tão ampla que, inadvertidamente, quase proibiu a investigação legítima de segurança e vulnerabilidade.
No entanto, a directiva da administração Trump parece retaliatória.
Justin Hendrix, editor da Tech Policy Press, disse que a medida da administração Trump “provavelmente levantará alarmes nas capitais estrangeiras sobre a confiabilidade da IA americana para aplicações críticas”. A mensagem é que não se pode confiar nas empresas de IA nos Estados Unidos para operar sem a interferência do governo dos EUA.
A administração Trump não confirmou por que invocou a sua directiva de controlo de exportações. Os funcionários interpretaram mal o relatório e surtaram? O CEO da Amazon, Andy Jassy, disse algo a altos funcionários do governo que provocou a reação, por cautela ou despeito? Algo se perdeu na tradução ou foi uma forma de pressionar a Anthropic, com quem o governo já mantém uma relação turbulenta? É possível que a Casa Branca não estivesse consciente das consequências de longo alcance da exigência da carta e que as autoridades estivessem a lutar para desfazer os danos que elas próprias criaram.
Citando Hendrix, “o clima é de uma nuvem de suspeita de que altos funcionários estão escolhendo favoritos com base em fatores pessoais e políticos”. A consequência é que o governo estabeleceu um precedente perigoso sobre quanto controle pretende exercer sobre o lançamento de software fabricado nos EUA.
Desta vez o governo discordou da Antrópica; amanhã pode ser com qualquer outra pessoa.
Quando você compra por meio de links em nossos artigos, podemos ganhar uma pequena comissão. Isso não afeta nossa independência editorial.