Por que o fundador da Anthropic sentou-se ao lado do papa durante um alerta sobre a IA?
No primeiro grande ensinamento escrito do seu papado, o Papa Leão XIV criticou a inteligência artificial. O pontífice delineou as ameaças mais preocupantes da tecnologia para a humanidade: a substituição de trabalhadores, a aceleração da guerra e a exploração do ambiente. Numa cerimônia em homenagem ao ensinamento sagrado no dia de seu lançamento no Vaticano, o papa foi acompanhado por um orador convidado incomum: o cofundador da Anthropic, Chris Olah, uma das pessoas por trás do boom da IA que tanto preocupa Leo.
A presença de Olah levanta uma questão fundamental: como poderão a Igreja Católica e a startup de IA mais valiosa do mundo trabalhar em conjunto, quando a tecnologia da Anthropic pode trazer o futuro contra o qual Leo está a alertar?
A encíclica de Leo discute longamente a preservação da dignidade do trabalho dos seres humanos, uma vez que está sob ameaça da IA – mas as principais empresas de IA, incluindo a Anthropic, não estão a dar prioridade a estas preocupações, afirma Pete Furlong, gestor sénior de políticas e investigação no Center for Humane Technology, uma organização sem fins lucrativos que defende a responsabilização em torno da IA.
“Todas essas empresas estão construindo tecnologia que… foi projetada para substituir pessoas”, diz Furlong. “Isso vai muito contra as palavras do papa. Não se pode ter dignidade num mundo onde se constrói tecnologia para substituir as pessoas.”
Algumas profissões – como programadores, representantes de atendimento ao cliente e trabalhadores de introdução de dados – são especialmente vulneráveis à capacidade da IA para automatizar tarefas, de acordo com a análise do mercado de trabalho da própria Anthropic, divulgada em março. Uma pesquisa publicada pelo centro de pesquisa de IA sem fins lucrativos Epoch AI no mês passado descobriu que 20% dos trabalhadores em tempo integral nos EUA disseram que a IA assumiu parte de seu trabalho. O próprio Dario Amodei, CEO da Anthropic, alertou sobre uma perda apocalíptica de empregos de colarinho branco nos próximos anos.
‘Lavagem do Vaticano’
Existe o risco de que o envolvimento da Anthropic com o Vaticano possa permanecer superficial e levar a um discurso de “bem-estar” sem auto-exame crítico, para ambos os lados, diz Paolo Carozza, professor de direito na Faculdade de Direito Notre Dame e co-presidente do Meta Oversight Board. “Essa é a marca da Anthropic, certo? É assim que eles estão se diferenciando, alinhando-se com as vozes mais orientadas para segurança e responsabilidade. Há algo a ganhar dizendo: ‘Olha, até o papa está disposto a falar conosco por causa de (nossa marca pró-segurança). O Google não estava no palco e a OpenAI não estava no palco”, diz Carozza.
Carozza continua esperançoso – embora inicialmente estivesse cético quanto à presença de Olah na cerimônia. “É preciso haver diálogo entre todos os atores aqui, e não pode ser uma questão de nós contra eles”, acrescentou.
Furlong, do Center for Humane Technology, concorda amplamente. “O que dizem os escritos do Papa está em conflito com o que diz a Antrópico. Para mim, isso é um bom sinal”, diz ele. Furlong acredita que vale a pena considerar os esforços da Anthropic pelo seu valor nominal, por enquanto, e que é importante envolver os pioneiros da IA, ao mesmo tempo que se é cauteloso sobre como as crescentes pressões financeiras, como a abertura de capital, podem alterar as suas posições futuras.
Olah observou em seus comentários que cada laboratório de IA de fronteira “opera dentro de um conjunto de incentivos e restrições que às vezes podem entrar em conflito com fazer a coisa certa”.
“Não importa quão sinceramente qualquer um de nós pretenda fazer a coisa certa – e acredito que muitos de nós o fazemos – seremos sempre influenciados por esses incentivos”, disse ele.
Alguns defensores da segurança da IA sentem que o papa não foi suficientemente enérgico ao tentar controlar os danos da IA. Timnit Gebru, fundador do Distributed Artificial Intelligence Research Institute, escreveu num post no Linkedin que a aliança era efetivamente uma “lavagem do Vaticano” e disse que a Igreja deveria ter feito parceria com “os trabalhadores de dados explorados que lutam pelos seus direitos, as pessoas cuja água está poluída que lutam contra os centros de dados, ou com muitas outras vítimas em todo o mundo”.
A Antrópica não comentou o assunto.
Antrópico e Leão se alinham nas preocupações sobre IA e guerra
A Igreja e a Anthropic concordam em outras questões, como as linhas vermelhas no uso da IA na guerra. Leo escreveu sobre como a IA pode “reduzir o limiar para o uso da força, proteger as pessoas da responsabilidade e promover uma cultura em que o inimigo é reduzido a uma estatística e a vítima a ‘danos colaterais’”. Ele apelou às “restrições éticas mais rigorosas” para proteger “a santidade da vida e para evitar uma corrida para desenvolver tais armas”.
Quando Amodei se recusou a permitir que o governo dos EUA utilizasse os modelos de IA da sua empresa em armas totalmente autónomas e vigilância em massa no início deste ano, isso levou a uma amarga disputa com o presidente. A administração Trump posteriormente colocou a Anthropic na lista negra e designou a empresa de IA como uma ameaça à cadeia de abastecimento – provocando uma batalha judicial, que está em andamento.
A Anthropic alinhou sua marca com a segurança pró-IA, em contraste com seu concorrente OpenAI, onde a Amodei já trabalhou para reconhecer os riscos de seus sistemas de IA e promover salvaguardas para o uso responsável de IA. A empresa gastou um recorde de US$ 1,6 milhão em lobby no primeiro trimestre de 2026 – derrotando o concorrente OpenAI. Grande parte de sua defesa em Washington e nas legislaturas estaduais promove a regulamentação da IA.
Leo pede data centers mais sustentáveis enquanto a Anthropic continua construindo
Escondido em um parágrafo da encíclica de cerca de 42.000 palavras está uma crítica suave aos datacenters que impulsionam o boom da IA e um apelo para reduzir seus danos ambientais. “Os atuais sistemas de IA requerem enormes quantidades de energia e água, influenciando significativamente as emissões de dióxido de carbono e impõem grandes exigências aos recursos naturais”, escreveu Leo. “Por esta razão, é essencial desenvolver soluções tecnológicas mais sustentáveis que reduzam o impacto ambiental e ajudem a proteger a nossa casa comum.”
Os datacenters provocaram reações adversas em todo o país nos EUA, que abriga o maior número deles no mundo, desde comunidades preocupadas com os efeitos negativos, desde as emissões industriais até ao aumento vertiginoso das contas de energia. Esses clusters de computadores que consomem muita energia são fundamentais para os negócios da Anthropic – ela precisa de seu poder computacional para alimentar seus modelos de IA cada vez mais poderosos. Por sua vez, muitas agências federais e as maiores empresas do mundo dependem dos modelos de IA da Anthropic para fluxos de trabalho e análises complexos – quer o objetivo seja obter lucro ou selecionar um alvo militar.
As ambições da Antrópico podem entrar em conflito com os apelos de Leão por um crescimento mais sustentável. A startup de IA prometeu investir US$ 50 bilhões em infraestrutura de IA, incluindo datacenters, no ano passado. A empresa, no entanto, comprometeu-se a cobrir os aumentos de preços da electricidade que os consumidores enfrentam nestas instalações e sistemas que reduzem o consumo de energia durante os picos de procura.