A Anthropic disse que irá “desativar abruptamente” seus modelos de IA mais avançados para todos os usuários depois que o governo dos EUA ordenou que suspendesse o acesso aos modelos para cidadãos estrangeiros, citando preocupações de segurança nacional.
A empresa recebeu a diretriz de controle de exportação para suspender o acesso ao Fable 5 e Mythos 5 para todos os estrangeiros, sem receber detalhes específicos sobre a preocupação com a segurança nacional, disse a Anthropic em comunicado.
É entendimento da Anthropic que o governo acredita que existe um método para contornar, ou “jailbreak”, uma salvaguarda que impediria o Fable 5 de ser usado na identificação de vulnerabilidades de software, disse a empresa.
A ordem ocorre no momento em que uma disputa anterior entre funcionários do governo Trump e a Anthropic, ligada ao IPO, mostrava sinais de abrandamento em partes do governo dos EUA.
A relação da Antrópico com o governo rompeu-se este ano, depois de esta se ter recusado a permitir que os militares dos EUA utilizassem os seus modelos de IA para vigilância doméstica e sistemas de armas totalmente autónomos. O governo respondeu colocando a Anthropic em uma lista negra da cadeia de abastecimento, que entrará em vigor no final do ano.
A acção também marca uma grande escalada nos esforços dos EUA para travar as capacidades de IA dos adversários estrangeiros. Durante anos, os controlos de exportação dos EUA concentraram-se nos chips e ferramentas que alimentam a IA, em vez de restringir o acesso estrangeiro à própria IA.
A Anthropic disse que o governo forneceu apenas “evidências verbais de uma potencial fuga de prisão restrita e não universal”.
“Discordamos que a descoberta de um potencial jailbreak restrito deveria ser motivo para o recall de um modelo comercial implantado para centenas de milhões de pessoas”, disse a empresa.
A directiva governamental e a resposta da Anthropic destacam a tensão crescente entre os criadores de IA e os reguladores sobre como avaliar os riscos dos chamados “jailbreaks”, ou métodos utilizados para contornar as salvaguardas do modelo.
Ainda na quarta-feira, a Anthropic apelou a uma maior supervisão da IA pelos EUA, incluindo a capacidade de bloquear modelos com riscos inaceitáveis. Afirmou, no entanto, que a acção do governo na sexta-feira não seguiu princípios de regulamentação justa e baseada em factos.
A diretora de informação do Pentágono, Kirsten Davies, disse em uma postagem no X que o departamento de defesa apoiava a priorização da segurança nacional.
“Algumas coisas são simplesmente mais importantes do que ciclos de receita, clickbait e avaliação pré-IPO. América em primeiro lugar. Sempre”, disse Davies.
A Anthropic entrou com pedido confidencial de IPO nos EUA no mês passado, superando a rival OpenAI na corrida para chegar aos mercados públicos.
No início desta semana, a Anthropic lançou um modelo de IA chamado Claude Fable 5, representando um novo nível de capacidade que chama de “classe Mythos”. O modelo é acompanhado por barreiras de proteção que impedem seu uso em áreas de risco, como a segurança cibernética, que alguns usuários reclamaram serem “excessivamente amplas”, disse a Anthropic.
Especialistas afirmam que os modelos Mythos, nas mãos erradas, poderiam acelerar dramaticamente ataques cibernéticos sofisticados, especialmente em sectores como o bancário, que dependem de sistemas tecnológicos complexos, interligados e muitas vezes com décadas de existência.
A Anthropic disse que trabalhou com o governo dos EUA, entre outros, na segurança antes do lançamento do Fable e que modelos de fornecedores rivais de IA mostraram uma capacidade semelhante de descobrir pequenos bugs no código.
“O efeito líquido deste pedido é que devemos desativar abruptamente o Fable 5 e o Mythos 5 para todos os nossos clientes para garantir a conformidade. O acesso a todos os outros modelos da Antrópico não será afetado”, disse a Anthropic.
A Antrópica disse acreditar que houve um “mal-entendido” e que está trabalhando para restabelecer o acesso aos modelos o mais rápido possível.
Um funcionário dos EUA confirmou que o departamento de comércio emitiu uma diretiva de controle de exportação para suspender todo o acesso ao Fable 5 e ao Mythos 5 por parte de cidadãos estrangeiros.