A OpenAI firmou um acordo com o Departamento de Guerra dos EUA (DOW), fornecendo suas ferramentas de IA para uso militar em “ambientes classificados”. Ao anunciar a parceria no sábado, o desenvolvedor do ChatGPT afirma que ela inclui proteções que proíbem o uso de sua tecnologia para vigilância doméstica em massa ou armas autônomas. No entanto, trechos de contratos compartilhados pela OpenAI parecem deixar lacunas significativas.
VEJA TAMBÉM:
Claude da Anthropic ultrapassa ChatGPT na App Store
A notícia do acordo da OpenAI com o DOW veio apenas um dia depois que o presidente Donald Trump anunciou que o governo dos EUA não usará mais tecnologia do rival da OpenAI, Antrópico, incluindo seu modelo de IA Claude. Publicando sobre a divisão no Truth Social, Trump se opôs à insistência da Anthropic para que o DOW cumprisse os termos de serviço da empresa.
Exatamente quais termos de serviços com os quais Trump questionou foram revelados em uma declaração do CEO da Anthropic, Dario Amodei, na quinta-feira. Nele, ele afirmou que a DOW exigia que a Antrópica removesse as salvaguardas contra o uso de sua tecnologia para vigilância em massa nos EUA e armas totalmente controladas por IA. Amodei afirmou que tal uso pode ser tecnicamente legal, no entanto, “isso ocorre apenas porque a lei ainda não acompanhou as capacidades de rápido crescimento da IA”.
“(Num) conjunto restrito de casos, acreditamos que a IA pode minar, em vez de defender, os valores democráticos”, escreveu Amodei. “Alguns usos também estão simplesmente fora dos limites do que a tecnologia atual pode fazer com segurança e confiabilidade”.
Os termos da OpenAI são aparentemente mais do agrado da administração Trump, com a empresa intervindo para fornecer aos militares dos EUA tecnologia de IA no lugar da Antrópico. No entanto, apesar disso, a OpenAI afirma que o seu acordo com a DOW não só tem barreiras de protecção semelhantes que proíbem a utilização da sua tecnologia para vigilância doméstica em massa ou para dirigir armas autónomas, mas ainda acrescenta uma terceira: “Não utilização da tecnologia OpenAI para decisões automatizadas de alto risco (por exemplo, sistemas como ‘crédito social’)”.
“Mantemos total discrição sobre nossa pilha de segurança, implantamos via nuvem, o pessoal autorizado da OpenAI está informado e temos fortes proteções contratuais”, dizia o anúncio da OpenAI. “Isso tudo se soma às fortes proteções existentes na legislação dos EUA”.
Este Tweet não está disponível no momento. Pode estar carregando ou foi removido.
De acordo com a OpenAI, as limitações impostas são mais aplicáveis do que as da Anthropic porque ela só fornecerá sua tecnologia ao DOW por meio da nuvem, em vez de instalá-la diretamente no hardware. O pessoal da OpenAI também será mantido envolvido para que possam ver como a DOW está usando sua tecnologia. Isto supostamente permitirá à empresa mais supervisão e controle de seus sistemas de IA.
“Não sabemos por que a Anthropic não conseguiu chegar a este acordo e esperamos que eles e mais laboratórios considerem isso”, escreveu OpenAI.
No entanto, um trecho do contrato compartilhado pela OpenAI indicou que sua tecnologia só será proibida de ser usada em armas autônomas ou para vigiar cidadãos dos EUA onde tal uso for ilegal. Na verdade, o acordo parece estabelecer circunstâncias em que a tecnologia da OpenAI seria permitida para estes fins, tais como quando o controlo humano sobre armas não é exigido pela política ou lei da DOW.
“O Departamento de Guerra pode usar o Sistema de IA para todos os fins legais, consistente com a lei aplicável, requisitos operacionais e protocolos de segurança e supervisão bem estabelecidos”, diz o contrato, de acordo com OpenAI. “(Qualquer) uso de IA em sistemas autônomos e semiautônomos deve passar por verificação, validação e testes rigorosos para garantir que funcionem conforme pretendido em ambientes realistas antes da implantação.”
Respondendo às preocupações num post no LinkedIn, a chefe de parcerias de segurança nacional da OpenAI, Katrina Mulligan, apenas reiterou que as suas políticas de utilização não são as únicas salvaguardas em vigor, enfatizando novamente a sua implementação na nuvem e o envolvimento do seu pessoal.
“A posição (do DOW) era: construa o modelo como quiser, recuse quaisquer solicitações que desejar, apenas não tente governar nossas decisões operacionais por meio de políticas de uso”, escreveu Mulligan.
Velocidade da luz mashável
Ainda assim, permanecem dúvidas quanto à eficácia destas salvaguardas ostensivas, especialmente considerando a relutância da OpenAI em assumir uma posição ética.
Sam Altman fala sobre o acordo da OpenAI com o Departamento de Guerra
Este Tweet não está disponível no momento. Pode estar carregando ou foi removido.
O CEO da OpenAI, Sam Altman, conduziu uma sessão de perguntas e respostas sobre o X na tentativa de amenizar as preocupações dos usuários sobre o acordo da DOW, com pouco sucesso aparente. Admitindo que o acordo “foi definitivamente apressado e que a ótica não parece boa”, Altman afirmou que esperavam que isso diminuísse as tensões entre o DOW e a indústria de IA.
“Acho que um bom relacionamento entre o governo e as empresas que desenvolvem esta tecnologia será fundamental nos próximos anos”, escreveu Altman.
O acordo pode ter aproximado a OpenAI e o governo dos EUA, mas parece ter alienado simultaneamente os usuários civis do ChatGPT.
Respondendo a uma questão sobre se permitir todo o uso legal permite a vigilância em massa, Altman partilhou uma publicação do subsecretário da Guerra dos EUA, Emil Michael, na qual afirmava que “o DoW não espiona a comunicação interna do povo dos EUA (incluindo através de recolha comercial) e fazê-lo seria ilegal e profundamente antiamericano”.
Não é de surpreender que poucos pareçam inclinados a acreditar na palavra da DOW. Em 2013, o denunciante Edward Snowden revelou vigilância em massa de cidadãos dos EUA conduzida pela Agência de Segurança Nacional (NSA) do DOW (então chamada Departamento de Defesa). Este programa foi considerado ilegal e incluía registros telefônicos de pessoas. A Human Rights Watch também acusou o então Departamento de Defesa de vigiar cidadãos dos EUA sem mandado em 2017.
“O governo já violou a lei e vigiou ilegalmente (sic) cidadãos dos EUA”, respondeu o usuário X @bolts6629. “Uma declaração insignificante de um subsecretário de um governo famoso por mentir é suficiente para você?”
Altman afirmou que se recusaria a usar a tecnologia da OpenAI para vigilância doméstica em massa “porque viola a Constituição” e expressou desconforto com a ideia de uma alteração que permitiria tal uso. No entanto, alguns utilizadores das redes sociais duvidaram desta afirmação, observando que ele já voltou atrás em outras promessas.
“Outras coisas que você disse que não faria: anular o conselho da OpenAI, remover a estrutura sem fins lucrativos, colocar anúncios no ChatGPT”, observou @Laneless_.
Além disso, o CEO da OpenAI também indicou que a empresa está relutante em traçar limites éticos, preferindo abdicar da responsabilidade e seguir as instruções do governo em vez de assumir qualquer tipo de posição.
“(Nós) não somos eleitos”, escreveu Altman. “Temos um processo democrático onde elegemos nossos líderes. Temos experiência com a tecnologia e entendemos suas limitações, mas acho que você deveria ter medo de que uma empresa privada decida o que é ou não ético nas áreas mais importantes.”
“Seguir ordens não é desculpa para comportamento antiético”, respondeu @MagisterLudiX. “Ou você tem fortes linhas vermelhas ou vê isso como puramente transacional, dependendo do contexto político”.
“IA é uma ferramenta. Um limite rígido para ela é um limite como qualquer outra ferramenta”, escreveu @genericrohan. “Não se trata de decidir o que os militares podem fazer, trata-se de estabelecer um limite que os militares podem planear.”
Em resposta às notícias da parceria OpenAI e DOW, muitos usuários do ChatGPT estão cancelando suas assinaturas do chatbot AI. Em vez disso, vários estão recorrendo ao chatbot de IA da Anthropic, Claude, que desde então destronou o ChatGPT como o aplicativo gratuito mais baixado na Apple App Store dos EUA.
“A OpenAI acabou de fazer um acordo com um diabo e perdeu esse cliente de 2 anos”, postou o usuário do Reddit r/boomroom11 no subreddit r/ChatGPT. A postagem tinha mais de 26.000 votos positivos no momento da redação. “A empresa (originalmente sem fins lucrativos) que nos disse que existia para construir IA de forma segura para a humanidade está agora a aceitar contratos do Pentágono. Sam Altman decidiu que o dinheiro da defesa era mais importante do que todos os princípios em que a empresa foi fundada.”
Divulgação: Ziff Davis, empresa controladora da Mashable, em abril de 2025 entrou com uma ação contra a OpenAI, alegando que ela infringiu os direitos autorais de Ziff Davis no treinamento e operação de seus sistemas de IA.
