Na sexta-feira passada, citando preocupações não especificadas de segurança nacional, a Casa Branca ordenou que a Anthropic restringisse a exportação dos seus poderosos modelos de IA Fable e Mythos a qualquer pessoa fora dos Estados Unidos, bem como a cidadãos estrangeiros dentro do país. Pouco depois, o gigante da IA desligou apressadamente ambos os modelos, que já estavam indisponíveis para ninguém há uma semana.
O episódio é o primeiro teste real para saber se o governo dos EUA pode usar controlos de exportação para conter a IA de fronteira da forma como tentou, com resultados muito desiguais, conter a encriptação e o spyware antes dele. E por mais dramático que possa parecer, a forma como este impasse será resolvido poderá moldar não apenas o acesso da Antrópico aos mercados estrangeiros, mas também o livro de regras que outros laboratórios de IA terão de construir.
Algum contexto primeiro. Desde que a Anthropic lançou o Mythos em abril, a empresa o comercializou como uma espécie de máquina cibernética do Juízo Final que poderia causar estragos na Internet se fosse divulgada de forma muito ampla – razão pela qual, antes da proibição, apenas cerca de 150 empresas e organizações governamentais avaliadas tinham acesso a ele. O objetivo era ajudar os defensores a proteger seus softwares e serviços antes que os bandidos pudessem alcançar capacidades semelhantes às do Mythos.
Então, o que desencadeou a proibição? Dois eventos subsequentes, supostamente. A primeira: a Anthropic deu a uma empresa de telecomunicações sul-coreana acesso à Mythos através do seu programa de parceria limitada, e as autoridades norte-americanas ficaram alarmadas depois de identificarem a empresa como uma empresa que suspeitavam ter ligações com a China. (A empresa, amplamente conhecida como SK Telecom, negou qualquer conexão com a China.) O CEO da Amazon, Andy Jassy, também teria alertado a administração depois que os próprios pesquisadores da Amazon, disse ele, encontraram uma maneira de contornar as salvaguardas do Fable 5. A Anthropic contesta o rótulo de “jailbreak”, chamando-o de um problema restrito e já corrigido, em vez de uma derrota total das medidas de segurança do modelo.
O resultado foi o mesmo: o Departamento de Comércio emitiu uma directiva de controlo de exportações e a Anthropic teve de lutar para limitar imediatamente o acesso aos seus produtos cerca de 90 minutos após ter sido notificada por algumas contas.
Nada disso é novo, no entanto. Durante décadas, os governos tentaram utilizar controlos de exportação para limitar a proliferação daquilo que consideram ser uma tecnologia cibernética perigosa, mas o seu historial tem sido, na melhor das hipóteses, mediano.
O governo dos EUA esteve por trás daquele que é talvez o fracasso mais espectacular desta abordagem na história, no início e meados da década de 1990. Na época, os cientistas da computação estavam desenvolvendo tecnologias de criptografia para proteger os dados enquanto viajavam pela Internet. Um desses produtos de criptografia chamava-se Pretty Good Privacy, ou PGP, um software popular que poderia criptografar dados e torná-los praticamente impossíveis de desembaralhar, mesmo se interceptados enquanto viajavam para o destinatário pretendido pela Internet.
O governo dos EUA inicialmente viu o PGP como uma arma perigosa, temendo que impedisse as suas agências de inteligência de bisbilhotar os e-mails enquanto estes cruzavam os seus fios. Para impedir a distribuição do PGP, o Serviço de Alfândega dos EUA abriu uma investigação criminal contra o criador do PGP, Phil Zimmermann, por alegadamente violar os controlos de exportação de armas. Ele reagiu publicando o código-fonte do PGP como um livro impresso, iniciando o que hoje é conhecido como “Guerra da Criptografia”.
Mais tarde, Zimmermann venceu uma batalha importante quando a investigação foi encerrada, abrindo caminho para algoritmos cruciais de criptografia de ponta a ponta, como o usado por bilhões de usuários do Signal e do WhatsApp.
Mais tarde, no início da década de 2010, os pesquisadores começaram a descobrir spyware de fabricação ocidental usado contra dissidentes no Oriente Médio. Em resposta, vários governos concordaram em expandir o Acordo de Wassenaar, um tratado internacional que limita a exportação de software e tecnologias de dupla utilização utilizados tanto em aplicações civis como militares.
A ideia era classificar software de vigilância e hacking como de dupla utilização, forçando assim os fabricantes de spyware a obter licenças de exportação para vender os seus produtos no estrangeiro.
Contate-nos
Você tem mais informações sobre a proibição do Mythos? A partir de um dispositivo e rede que não seja de trabalho, você pode entrar em contato com Lorenzo Franceschi-Bicchierai com segurança no Signal pelo telefone +1 917 257 1382, ou via Telegram e Keybase @lorenzofb, ou e-mail.
Mas Wassenaar sempre teve duas fraquezas inerentes. Existem vários países que não aderem ao acordo, incluindo Israel, que abriga alguns dos fabricantes de spyware mais ativos do mundo.
O acordo também depende de os países o aplicarem às empresas dentro das suas fronteiras, a seu próprio critério. Durante algum tempo, o governo italiano concedeu a um dos maiores fabricantes de spyware do país, a Hacking Team, uma licença para exportar as suas ferramentas para todo o mundo, apesar do historial da empresa na venda de spyware a governos opressivos que o utilizaram para piratear jornalistas e activistas de direitos humanos.
Desde então, outros países da Europa têm sido negligentes com os fabricantes de spyware, como a Itália. Apesar dos numerosos escândalos, a Europa, lar de muitos fabricantes de spyware e de ferramentas de hacking, tem falhado continuamente na contenção da exportação de spyware para regimes autoritários. Os críticos dizem que um esforço recentemente renovado em todo o bloco de 27 estados membros para resolver o seu problema crescente de exportações de spyware para estados autoritários “não vai longe o suficiente”.
Vários fabricantes de spyware, como a Intellexa, um consórcio sancionado de empresas de spyware, simplesmente transferiram as suas operações para países com controlos de exportação frouxos. Outros fabricantes de spyware procuraram transferir as suas operações para a Arábia Saudita por razões semelhantes.
Houve algumas vitórias. A FinFisher, fabricante de spyware com sede na Alemanha, fechou em 2022, após uma investigação de vários anos por promotores alemães sobre a empresa por supostamente vender spyware para a Turquia sem licença de exportação. Os investigadores descobriram anteriormente que o spyware FinFisher havia sido implantado nos telefones de críticos do governo da Turquia.
No momento em que este artigo foi escrito, o impasse entre a administração Anthropic e Trump permanecia. Há uma probabilidade razoável de a administração ceder e levantar a restrição no interesse de manter as empresas americanas de IA competitivas em todo o mundo – uma medida que equivaleria ao reconhecimento tácito de que os laboratórios de IA noutros lugares, incluindo na China, provavelmente alcançarão capacidades semelhantes, independentemente do que os EUA restringirem. Ou, as empresas americanas de IA podem acabar por necessitar da aprovação do governo antes de servirem clientes estrangeiros, um fardo de conformidade que invariavelmente prejudicaria os seus resultados financeiros.
Dadas as experiências passadas que os governos mundiais tiveram na tentativa de controlar o alcance do software, é pouco provável que os controlos de exportação exigidos pelo governo sejam a abordagem correcta para impedir que intervenientes mal-intencionados abusem de poderosas tecnologias cibernéticas de dupla utilização.
Quando você compra por meio de links em nossos artigos, podemos ganhar uma pequena comissão. Isso não afeta nossa independência editorial.