A tentativa do presidente Donald Trump de proibir nações estrangeiras de usar as últimas iterações dos modelos de inteligência artificial da empresa norte-americana Anthropic provocou uma forte reação em todo o espaço tecnológico, com muitos considerando a proibição impraticável e outros alertando que a medida impedirá os esforços do país para competir com a China na corrida da IA.
Na sexta-feira, a empresa sediada na Califórnia revelou que foi emitida uma “diretiva de controlo de exportação” para os seus modelos Claude Fable 5 e Mythos 5, impedindo a sua utilização “por qualquer cidadão estrangeiro, seja dentro ou fora dos Estados Unidos, incluindo funcionários estrangeiros da Anthropic”.
Embora detalhes limitados tenham sido fornecidos pelo governo, a Anthropic disse acreditar que a diretiva se devia a uma vulnerabilidade potencial, especificamente um método de “jailbreak” Fable 5. Jailbreak refere-se a contornar restrições de software – como as grades de segurança de uma IA – que são projetadas para proteger um sistema ou rede.
Notícias
A empresa disse que investigou o problema e descobriu que expôs apenas um punhado de pontos fracos anteriormente conhecidos que outros modelos disponíveis publicamente também podem descobrir, embora reconhecendo que a proteção estanque ao jailbreak provavelmente “atualmente não é possível para nenhum fornecedor de modelo”.
Como resultado da ordem, a empresa disse que teve de suspender todo o acesso a ambos os modelos para cumprir, pediu desculpas aos seus clientes pela “perturbação” e disse acreditar que isto resultou de um “mal-entendido” por parte do governo.
A Newsweek entrou em contato com a Anthropic e o Departamento de Comércio por e-mail para comentar.
Reações do setor de tecnologia
“Discordamos que a descoberta de um potencial limitado de jailbreak deva ser motivo para revogar um modelo comercial implantado para centenas de milhões de pessoas”, disse a Anthropic no comunicado publicado na sexta-feira. “Se este padrão fosse aplicado em toda a indústria, acreditamos que basicamente interromperia todas as implantações de novos modelos para todos os fornecedores de modelos de fronteira.”
Tanto nos EUA como no estrangeiro, muitas das críticas das principais figuras tecnológicas foram igualmente dirigidas ao governo dos EUA, destacando ao mesmo tempo a dificuldade e as consequências da imposição de controlos de exportação numa tecnologia como a IA.
Dean Ball, ex-conselheiro de IA da Casa Branca
Numa série de postagens no X, Ball, um dos autores do “Plano de Ação de IA” da administração Trump, chamou de “desconcertante” que os EUA tentassem restringir o acesso estrangeiro aos modelos antrópicos.
“Uma administração cuja postura é que *deveríamos* exportar chips avançados de IA para a China, que também quer proibir… a Grã-Bretanha (e todos os outros não-americanos na Terra)… de usar os nossos melhores modelos?” ele escreveu no sábado.
“Não sei dizer se isso é uma guerra legal contra a Antrópica em particular ou uma falcoaria extrema de segurança nacional. Independentemente disso, é simplesmente uma caricatura”, disse ele em uma postagem separada.
Chris McGuire, ex-conselheiro do Departamento de Estado
McGuire, pesquisador sênior para China e tecnologias emergentes no Conselho de Relações Exteriores, disse que os controles de exportação de modelos de IA poderiam ser vistos como “prudentes”, mas nega que a tentativa de uma proibição universal seja “altamente questionável”.
“Impor controlos de exportação igualmente amplos, que também restringem o acesso a cidadãos estrangeiros, é simplesmente absurdo – e obviamente resultará na retirada do modelo da distribuição, como acabou de acontecer.”
McGuire, conselheiro do Departamento de Estado e do Conselho de Segurança Nacional durante o mandato de Joe Biden, também questionou por que razão os EUA exportariam chips de IA para a China, ao mesmo tempo que impunham controlos sobre “os modelos que esses mesmos chips produzem e gerem”.
Peter Girnus, pesquisador de ameaças de software
Girnus disse que a proibição era, em certos aspectos, responsabilidade da Anthropic, já que a empresa comercializou várias vezes seu modelo Claude Mythos como poderoso demais para ser lançado.
“Se você descrever seu produto como uma munição em todos os comunicados de imprensa, eventualmente um governo acreditará em sua palavra”, escreveu ele no X. “Eles mesmos escreveram o predicado legal e o chamaram de marca.”
No entanto, ele disse que controlos de exportação como este acabariam por ter dificuldade em ter sucesso, dada a natureza da “munição” em questão e porque “a matemática não pára na alfândega”.
“Os próprios funcionários estrangeiros da Anthropic estão agora excluídos do modelo que construíram”, acrescentou. “A munição está no prédio e as pessoas que a fabricaram não têm permissão para olhar para ela.”
Gary Marcus, cientista
Marcus, conhecido por seu trabalho e comentários frequentes sobre IA, chamou a diretiva de “chocante” e disse que isso seria “contraproducente para a indústria de IA dos EUA”.
“Talvez isso faça um favor à China”, ele postou no X.
“Certamente todos os chineses que trabalham numa empresa de IA dos EUA (e há muitos) considerarão regressar à concorrência na China o mais rápido possível. E os investidores começarão a perguntar-se se as empresas americanas de IA podem prosperar nesta atmosfera. Se quiserem um exemplo de uma regulamentação de IA que possa sufocar a inovação, é este.”
Vassant Shetty, empresário indiano
As reacções também vieram do exterior, com Shetty a salientar que um controlo universal das exportações, tanto para aliados como para inimigos, criará atritos entre potências globais.
“A Índia é o segundo maior mercado global para ChatGPT e Anthropic. Se eles conseguirem desligar o acesso pressionando um botão como este, estaremos absolutamente à mercê de um governo estrangeiro.
Ciaran Martin, oficial de segurança cibernética do Reino Unido
“Aconteceu completamente do nada”, disse Martin, ex-chefe do Centro Nacional de Segurança Cibernética do governo do Reino Unido, durante uma entrevista ao Canal 4.
“Provavelmente será insustentável”, continuou ele. “Porque (…) embora seja enquadrado como uma ordem para impedir o acesso de cidadãos estrangeiros a este novo e poderoso modelo de IA por motivos de segurança, a única maneira de isso ser feito na prática é retirar completamente o modelo, porque a Anthropic tem milhares de cidadãos estrangeiros trabalhando para eles, e milhões de usuários que não consegue detectar se são americanos ou não.”
“Os EUA estão obcecados em vencer a corrida da IA com a China”, acrescentou. “Isso retarda tudo.”
O que acontece a seguir
A Anthropic tem-se envolvido repetidamente em impasses com o governo dos EUA, principalmente no que diz respeito às aplicações militares da sua tecnologia e ao seu potencial para ser utilizada para vigilância doméstica em massa.
Para além da actual tentativa de impor controlos de exportação à Fable, a Anthropic está envolvida numa batalha legal com o Departamento de Defesa, tendo sido colocada numa lista negra da cadeia de abastecimento no início deste ano, depois de se recusar a permitir o acesso irrestrito dos militares aos seus modelos Claude.
Muitos no espaço tecnológico acreditam que o governo recuará ou alterará o seu apelo para bloquear cidadãos estrangeiros que utilizem os modelos da empresa, e a Anthropic indicou que está em processo de recurso da directiva.
“Como declaramos publicamente, acreditamos que o governo deveria ter a capacidade de bloquear implantações inseguras, como parte de um processo legal que seja transparente, justo, claro e baseado em fatos técnicos”, dizia a declaração. “Esta ação não segue esses princípios.
“Pedimos desculpas aos nossos clientes por esta interrupção. Acreditamos que isso seja um mal-entendido e estamos trabalhando para restaurar o acesso o mais rápido possível.”