TA eleição para presidente da Câmara de Nova Iorque pode ser recordada pela notável vitória de um jovem socialista democrático, mas também foi marcada por algo que provavelmente permeará futuras eleições: a utilização de vídeos de campanha gerados por IA.
Andrew Cuomo, que perdeu para Zohran Mamdani nas eleições da semana passada, teve particular interesse em partilhar vídeos falsos do seu adversário, incluindo um que mostrava o antigo governador acusado de racismo, numa área em desenvolvimento de propaganda eleitoral.
A IA já foi utilizada em campanhas anteriores, especialmente na utilização de algoritmos para atingir determinados eleitores e até, em alguns casos, para redigir propostas políticas. Mas à medida que o software de IA se desenvolve, ele é cada vez mais usado para produzir fotos e vídeos, às vezes enganosos.
“Penso que o que realmente se destacou neste ciclo eleitoral foi a utilização de IA generativa para produzir conteúdos que vão diretamente aos eleitores”, disse Alex Bores, representante do estado de Nova Iorque que tem estado na vanguarda da introdução de leis para regular a utilização de IA.
“Então, quer tenha sido a campanha de Cuomo que usou ChatGPT para gerar seu plano habitacional, ou Cuomo e muitos outros fazendo anúncios em vídeo gerados por IA para os eleitores, isso, eu acho, pareceu muito novo no ciclo de 2025, ou certamente, apenas muito mais longe do que jamais vimos antes.”
Eric Adams, o atual prefeito que desistiu da disputa em setembro, usou IA para criar chamadas automáticas para os nova-iorquinos, apresentando-o falando em mandarim, urdu e iídiche, e também produziu um vídeo de IA mostrando Nova York como uma distopia aparentemente devastada pela guerra para atacar Mamdani.
Cuomo, por sua vez, foi acusado de racismo e islamofobia depois que sua campanha tuitou um vídeo que mostrava uma versão ficcional de Mamdani comendo arroz com os dedos e um homem negro roubando em uma loja. O anúncio também apresentava um homem negro, vestindo camisa e gravata roxas, casaco de pele e carregando uma bengala prateada, parecendo endossar o tráfico sexual. A campanha de Cuomo posteriormente o excluiu e disse que havia sido enviado por acidente.
Bores, que concorre para representar Nova York na Câmara dos Representantes, disse que muitos dos anúncios gerados por IA no último ciclo eleitoral eram “mais propensos” a “desviar-se para o que poderia ser percebido como um território preconceituoso”.
“Acho que é outra coisa que precisamos rastrear: é porque os algoritmos estão reproduzindo estereótipos que estão em seus dados de treinamento, ou (é) porque é tão fácil de manipular. Você não precisa dizer a um ator de uma determinada raça para fazer uma determinada coisa, basta alterá-la no computador”, disse Bores.
“Você não precisa dizer na cara de alguém para se retratar de uma determinada maneira. Isso torna mais fácil para as pessoas publicarem conteúdo que, você sabe, realmente, acho que a sociedade educada deveria desaprovar.”
No estado de Nova Iorque, as campanhas deveriam rotular os anúncios de IA como tal, mas alguns – incluindo o anúncio que Cuomo publicou e apagou – não o fizeram. O conselho eleitoral de Nova Iorque é responsável por potencialmente apresentar acusações contra as campanhas, mas Bores observou que as campanhas podem estar dispostas a aceitar qualquer punição, especialmente se a punição ocorrer após o término da campanha.
“Acho que sempre encontraremos campanhas dispostas a aceitar essa compensação. Se ganharem e depois pagarem uma multa, não vão se importar e, se perderem, não importa”, disse Bores. “Portanto, você quer tentar encontrar um regime de fiscalização que possa derrubar as coisas rapidamente antes de uma eleição, em vez de apenas punir depois.”
Robert Weissman, co-presidente do grupo de defesa sem fins lucrativos Public Citizen, que esteve envolvido na aprovação de muitas leis sobre IA nos EUA, disse que tentar enganar as pessoas é agora ilegal em mais de metade dos estados, com campanhas obrigadas a publicar isenções de responsabilidade em anúncios generativos de IA dizendo que não são reais. Ainda assim, disse ele, regulamentar o uso de IA em campanhas é uma questão urgente.
“As mentiras fazem parte da política desde tempos imemoriais. Isto é diferente das mentiras e é diferente de dizer que o seu oponente disse algo que não disse”, disse Weissman.
“Quando alguém vê uma versão aparentemente autêntica de uma pessoa dizendo algo, é muito difícil para essa pessoa contradizê-la e dizer ‘eu nunca disse isso’, porque você está pedindo às pessoas que não acreditem no que viram com seus próprios olhos.”
Embora a IA agora seja capaz de gerar vídeos confiáveis, algumas campanhas ainda não acertaram em cheio. Um vídeo “especial de Halloween de Zohran” postado por Cuomo – este anúncio afirmava que foi gerado por IA – mostrou uma versão extremamente desleixada de Mamdani, completa com áudio fora de sincronia e um roteiro incompreensível.
Com a aproximação das eleições intercalares e a aproximação das eleições presidenciais de 2028, os vídeos políticos gerados por IA provavelmente continuarão por aí.
Eles já foram usados em nível nacional. Elon Musk compartilhou um vídeo de Kamala Harris gerado por IA em julho de 2024, depois que ela se tornou a candidata democrata de fato à presidência. Esse vídeo mostrava Harris afirmando que ela era a “melhor contratada para diversidade” e dizendo que não “sabe nada sobre como governar o país”.
Embora os estados possam estar a fazer progressos na regulamentação da utilização da IA nas eleições, parece haver pouca vontade de o fazer a nível federal.
Durante os protestos No Kings em outubro, Donald Trump compartilhou um vídeo de IA que o mostrava pilotando um caça a jato e derramando fluido marrom sobre os americanos, apenas o mais recente de seus vídeos de IA.
Com Trump aparentemente aprovando o meio, parece improvável que os republicanos tentem controlar a IA tão cedo.
