Olá e bem-vindo ao TechScape. Sou seu anfitrião, Blake Montgomery, editor de tecnologia dos EUA no Guardian. Hoje estamos discutindo a necessidade de IA de Donald Trump e as contradições da postura de segurança em primeiro lugar da Antrópica.
Não se iluda, Trump não vai regulamentar a IA
Qualquer previsão de que Donald Trump irá controlar o rápido desenvolvimento da inteligência artificial por razões de segurança é ridícula neste momento.
Ele emitiu uma ordem executiva diluída sobre a revisão do modelo na semana passada e outra exigindo que os militares dos EUA acelerassem a adoção da IA.
Em vez de restringir o crescimento, ele está discutindo a compra de ações.
Trump disse na semana passada que a sua administração iria “analisar” a aquisição de participações financeiras nas principais empresas de inteligência artificial dos EUA. Sam Altman teria participado em discussões sobre tais compras de ações com altos funcionários da Casa Branca, indicando que as discussões são um tanto sérias.
No seu típico estilo vago, mas confirmativo, Trump disse aos repórteres na sexta-feira: “Há algo muito interessante nisso, onde quase se torna uma parceria com o público americano. Vamos analisar isso”.
Uma participação dos EUA em empresas de IA poderia ter dois sentidos. Trump poderia usar a influência do governo como principal acionista para restringir o desenvolvimento da IA e alinhá-lo com incentivos de segurança mais do que financeiros.
Ou ele poderia encorajar as empresas de IA a crescerem tão lucrativas e grandes quanto possível, para que o governo federal pudesse lucrar como uma empresa de capital de risco. Meu dinheiro está neste último.
Se Trump promover a abordagem de crescimento, não parece provável que pressione as startups de IA nos EUA a abrandar as coisas em nome da segurança, seja sob a forma de restringir as capacidades dos modelos ou de interromper a construção de centros de dados em hiperescala. Ele vai querer que seu dinheiro valha a pena.
Duas das ordens executivas de Trump emitidas na semana passada também apontam para uma continuação da sua abordagem de crescimento a todo custo. Uma ordem executiva pretendia, mas não exigiu, uma revisão governamental dos modelos de IA 30 dias antes do seu lançamento.
Ele adiou a assinatura da ordem no final de maio, dizendo aos repórteres: “Estamos liderando a China, estamos liderando todo mundo e não quero fazer nada que possa atrapalhar essa liderança”. A versão anterior da ordem teria imposto padrões mais rígidos: revisão obrigatória, com 90 dias de antecedência.
A segunda ordem executiva de Trump orientou o departamento de defesa a acelerar a adoção da IA, particularmente no que diz respeito à segurança cibernética nacional. Nele, ele colocou por escrito o agora óbvio aspecto central de sua posição sobre IA, afirmando que os EUA lideram em IA “porque nos recusamos a sufocar esta inovação com regulamentação excessivamente onerosa.”
Não espere que a sua postura mude tão cedo e não olhe para ele para verificar a expansão precipitada dos gigantes da IA dos EUA. O único freio ou equilíbrio que parecemos ter nisso é a própria consciência da Antrópica.
OpenAI entrou com pedido de abertura de capital no mercado de ações dos EUA
Conferência anual de desenvolvedores da Apple
Tecnologia e poder
Uma pausa no desenvolvimento da IA seria um ótimo negócio para a Antrópica
A Antthropic disse que o mundo deveria ter a opção de “pausar” o desenvolvimento da IA.
Também entrou com pedido de abertura de capital no mercado de ações dos EUA.
Um congelamento seria muito bom para a empresa, que lidera a corrida pela IA.
Na semana passada, a Anthropic defendeu uma possível “pausa temporária” no avanço das capacidades da IA, dizendo que reuniria os decisores políticos para discutir os riscos da tecnologia de ponta. Na mesma postagem, a empresa disse que seu progresso no desenvolvimento de seu chatbot Claude em breve levaria ao “autoaperfeiçoamento recursivo”, um modelo com a capacidade de criar versões melhores e mais poderosas de si mesmo.
Poucos dias antes, a Anthropic entrou com pedido confidencial para uma oferta pública inicial no mercado de ações dos EUA, consolidando seu status como mais valioso do que o OpenAI por enquanto. Um congelamento no desenvolvimento da IA, à medida que a empresa, avaliada em cerca de 965 mil milhões de dólares, ultrapassa a OpenAI, a sua principal rival na corrida à IA, avaliada em cerca de 850 mil milhões de dólares, seria bastante conveniente.
A quem se aplicaria esse congelamento – talvez apenas aos concorrentes? – e seriam laboratórios aparentemente éticos – antrópicos, talvez? – ficar isento?
A empresa dominou a postura de proclamar o seu próprio medo face ao quão poderosa é a sua tecnologia, insinuando, pela força das reacções dos seus próprios executivos, que o seu modelo Claude é, de facto, poderoso.
A marca da Anthropic como um laboratório habitado por um exército de programadores Victor Frankensteins, tão brilhantes, mas com tanto medo de suas próprias criações, foi um sucesso. Ele se apresenta como o contrapeso mais cuidadoso a uma OpenAI imprudente, decidida a lançar novos produtos, independentemente de suas consequências, mas compete em um cronograma de lançamento de produtos semelhante. A lenta implementação do seu produto de segurança cibernética Mythos pela empresa apenas para parceiros confiáveis sinaliza um desejo de implementar a IA de forma responsável, mas a OpenAI seguiu o mesmo manual com seu produto focado em segurança cibernética.
A questão à qual sempre volto é esta: com toda essa preocupação com a segurança da IA, por que continuar desenvolvendo a IA? Não é um serviço obrigatório. Vá fazer outra coisa se você está com tanto medo. Mas isso parece improvável, e não ficaríamos ricos com uma das maiores estreias de sempre no mercado de ações se abandonássemos agora, e por isso não creio que precisemos de aceitar os apelos a uma “pausa” pelo valor nominal.