FNo conforto de sua cama, Jonathan Rinaldi, um candidato político a uma cadeira no conselho municipal do Queens, Nova York, mexeu em seu iPhone, fazendo com que um chatbot de inteligência artificial simulasse notícias falsas e endossos que ele nunca havia recebido.
Durante a campanha em outubro passado, Rinaldi compartilhou uma dessas histórias, feita para parecer real com o logotipo da CNN, em seu Facebook e Instagram. Afirmou que Lynn Schulman, o seu adversário e democrata em exercício, tinha sido “forçado a desistir da corrida devido a uma série de erros críticos”. Mas Schulman não desistiu de sua campanha e, em novembro, venceu por uma vitória esmagadora.
Rinaldi sentiu que essas postagens eram “arte” – e definitivamente protegiam o discurso político. “Fiz memes e sátiras; nada do que fiz é falso político”, disse ele. Mas as autoridades locais acusaram o cético em relação às vacinas, de 47 anos, e doador em série de esperma, de fraudar os eleitores. Em 24 de junho, ele foi preso sob a acusação de contravenção por falsificação, no que parece ser uma das primeiras vezes em que um candidato a um cargo público pode enfrentar sanções criminais após usar IA em suas mensagens políticas.
“As campanhas estão cheias de mentiras, ok”, disse Rinaldi ao Guardian numa entrevista. “O que estou dizendo é que não estou fazendo nada diferente de ninguém.”
Embora este tipo de aplicação seja raro e as leis utilizadas para apresentar acusações contra Rinaldi sejam anteriores e não exijam a utilização de IA, o alegado engano no centro do caso é emblemático de um debate nacional acirrado sobre a regulamentação da IA nas comunicações políticas.
Rinaldi contesta ter violado quaisquer leis e se preocupa com as implicações da liberdade de expressão de ser preso por atividades online. “É muito importante que a polícia não possa prendê-lo por denúncias de postagens nas redes sociais criadas pela IA”, disse ele.
Anúncios gerados por IA estão por toda parte neste período eleitoral. Eles principalmente exaltam os candidatos ou zombam dos seus oponentes – muitas vezes pagos por grupos externos não afiliados aos candidatos. Mas a sua utilização generalizada – e os ocasionais maus actores – estão a alimentar preocupações de que conteúdos políticos enganosos possam manipular os eleitores e amplificar informações incorrectas sobre as eleições intercalares de Novembro.
Nas eleições primárias para o Congresso em todo o país, anúncios gerados por IA que chamam a atenção já estão gerando polêmica. Um vídeo mostrava James Talarico, candidato democrata ao Senado do Texas, vestido como Maria do Sound of Music e cantando uma versão de My Favorite Things sobre crianças trans. Outro sugeriu que Thomas Massie, um congressista conservador do Kentucky, estava “enfrentado” com “membros do Esquadrão” progressistas: mostrando os legisladores de mãos dadas enquanto faziam o check-in em um quarto de hotel. Spencer Pratt, candidato a prefeito de Los Angeles, assumiu o papel de Batman e retratou sua oponente Karen Bass como o Coringa em um espetáculo digital bizarro que atraiu milhões de visualizações e ajudou a impulsioná-lo de estranho marginal a um candidato sério.
Postagem do Instagram de Rinaldi, @jdrfornyc, em 24 de outubro de 2025 às 8h32 horário do leste dos EUA. Fotografia: Gabinete do procurador distrital do Queens
“A maioria desses anúncios não tenta convencer as pessoas”, disse Bruce Schneier, professor e professor da Harvard Kennedy School. “Trata-se de sinalização social. O importante é: minha equipe pode enterrar na sua equipe.”
Até o presidente é fã. Donald Trump apoiou-se fortemente na “slopaganda” da IA – retratando-se como um rei enfeitando a capa da revista Time, um papa e um Jedi empunhando um sabre de luz. Ele também compartilhou um vídeo racista retratando o ex-presidente Barack Obama e sua esposa Michelle como macacos, gerando intensa reação. Mais tarde, Trump removeu a postagem. Durante as eleições presidenciais de 2024, ele e Elon Musk compartilharam imagens de Kamala Harris geradas por IA em comícios comunistas. Na semana passada, Trump publicou um vídeo de IA em que se fazia passar por médico, com um estetoscópio ao pescoço – alegando ter curado alguns dos seus críticos mais famosos da “síndrome de perturbação de Trump”.
Alguns usos da IA têm sido mais enganosos. Nas primárias presidenciais de 2023, Ron DeSantis, o governador da Flórida, postou o que parecia ser uma imagem gerada por IA de Trump abraçando o Dr. Anthony Fauci – que se tornou alvo da raiva dos republicanos por causa de sua estratégia de resposta à pandemia. Em janeiro de 2024, um consultor político enviou chamadas automáticas geradas por IA imitando Joe Biden para milhares de eleitores dois dias antes das primárias presidenciais do estado; o falso Biden sugeriu que as pessoas votassem nas eleições de novembro e que seu voto não faria diferença em janeiro.
Os especialistas alertam que as novas e sofisticadas ferramentas de IA tornaram muito mais fácil a produção e amplificaram a desinformação em grande escala. O público também compartilha dessas preocupações. Uma sondagem de Março de 2026 da PBS News, NPR e Maris descobriu que 85% dos americanos dizem que é provável que o conteúdo político gerado pela IA espalhe desinformação sobre as eleições de Novembro. A escala de desconfiança persistiu entre democratas, republicanos e independentes.
O Centro Brennan para a Justiça está a pressionar a Comissão Eleitoral Federal a agir de forma decisiva sobre “conteúdo deliberadamente enganoso produzido pela IA” por receio de que deepfakes que se fazem passar por candidatos “provavelmente se tornem uma ferramenta cada vez mais eficaz para fraudar doadores”. A lei dos EUA proíbe os candidatos federais e os seus agentes de se apresentarem fraudulentamente como “falando, escrevendo ou agindo de outra forma” em nome de outro candidato ou partido político “num assunto que seja prejudicial” para aquele que está a ser deturpado. Mas isso nem sempre se traduz em fiscalização.
Embora geralmente haja um alto padrão para proteger o discurso político, mais de 30 estados promulgaram leis que regulamentam o uso de deepfakes em mensagens políticas. A maioria está focada em divulgações, como declarar a inclusão de deepfakes e IA, ou destacar quem pagou pelo anúncio. Minnesota e Texas proíbem o uso de deepfakes por um determinado número de dias que antecedem uma eleição. As proibições de deepfake na Califórnia e no Havaí foram anuladas pelos tribunais federais por serem excessivamente amplas e infringirem a Primeira Emenda.
“Todo o quadro regulamentar existente em torno da comunicação política é bastante confuso e há uma longa história dessa confusão que leva à confusão e à aplicação muito deficiente e pouco rigorosa das regras”, disse Nathan Sanders, cientista de dados em Harvard.
Velho problema, novos desafios
Em sua candidatura à Câmara Municipal, Rinaldi, de acordo com a denúncia do promotor, levou AI a vestir seu oponente com uma camiseta “Garotas gostosas para Zohran”. Ele também postou imagens e vídeos afirmando falsamente que tinha o apoio de muitos grupos locais, incluindo uma delegacia de polícia, estudantes de uma escola primária e um grupo de interesse judaico. Crianças inventadas – algumas com os punhos levantados – cantavam do lado de fora de um prédio rotulado como PS 101 Queens: “Torne isso real. Faça isso, Rinaldi. Deixe nossas vozes brilharem”.
De acordo com o processo, Heather Bennett-Idels, fundadora da Queens Jewish Alliance, confrontou Rinaldi depois que ele compartilhou uma imagem promovendo o endosso do grupo a ele. O grupo tinha, de facto, apoiado o seu oponente. “É desonesto ter uma coisa falsa”, ela disse a ele.
pular a promoção do boletim informativo
Inscreva-se para TechScape
Um mergulho semanal em como a tecnologia está moldando nossas vidas
após a promoção do boletim informativo
“É política”, respondeu Rinaldi.
Os especialistas concordam com a ideia de que a mentira dos candidatos é tão antiga quanto a própria política. “As coisas que temos medo com a IA são coisas que fazem parte da política desde o início da política”, disse Peter Loge, diretor do projeto da Universidade George Washington sobre ética na comunicação política. No século XVIII, Benjamin Franklin publicou um suplemento falso num jornal de Boston com notícias falsas sobre os britânicos – “absurdo convincente para objectivos políticos – nada a ver com IA”, diz Loge. Ainda assim, a nova tecnologia apresenta desafios únicos. “A IA torna mais fácil do que nunca mentir em grande escala. Mas o problema não é a tecnologia, é a mentira”, acrescenta.
Os políticos que querem enganar os eleitores já têm muitas maneiras de o fazer sem IA: podem filmar um ator com peruca ou recorrer ao photoshop ou a imagens geradas por computador (CGI).
Captura de tela de um vídeo gerado por IA postado no Facebook de Rinaldi. Ilustração: Gabinete do procurador distrital do Queens
Muitos consultores políticos reconhecem os riscos de maus intervenientes utilizarem a IA, mas argumentam que as ferramentas podem ter um efeito democratizante. A publicidade e a mídia são tradicionalmente a parte mais cara de uma campanha política. Agora, o acesso a ferramentas de IA gratuitas ou de baixo custo significa que os candidatos com menos dinheiro podem criar conteúdos equivalentes aos dos oponentes que têm orçamentos muito maiores, dizem eles.
“A IA é uma ferramenta para produzir conteúdo verdadeiro. Também pode ser uma ferramenta para produzir conteúdo não verdadeiro”, disse Julie Sweet, que lidera o trabalho da Associação Americana de Consultores Políticos (AAPC) sobre IA e comunicação política moderna.
A AAPC produziu uma “estrutura de divulgação significativa” que aconselha os membros a não publicarem conteúdo em que áudio ou vídeo sintético seja suficientemente realista para ser confundido com uma gravação genuína, gere palavras que o oponente nunca disse ou os retrate numa reunião ou local onde nunca compareceram. Para os casos em que a IA recria um evento público documentado específico a partir de reportagens, ou aprimora a foto de um oponente para parecer pouco lisonjeira, vale a pena divulgar, dizem eles. Para utilizações mais inócuas da IA, como traduzir o discurso inglês de um candidato para espanhol, ou um clone de voz lendo o guião aprovado pelo próprio candidato, o grupo diz que a divulgação pode não ser necessária.
Embora as opiniões dos membros sobre a regulamentação variem, Sweet diz que as isenções de responsabilidade impostas pelo Estado – especialmente aquelas que exigem as palavras “falso” ou “manipulado” para uso de IA em comunicações políticas – podem reduzir a confiança do público, mesmo em casos que não têm nada a ver com engano.
O grupo aconselha, em vez disso, o uso de termos como “dramatização”, “simulação”, “reconstituição”, “voz sintética”, “traduzido” e “imagem melhorada ou alterada”.
Em meio a regulamentações em constante mudança, pelo menos uma ferramenta de IA incorporou leis estaduais em sua interface de usuário. BattlegroundAI ajuda os usuários a criar anúncios em vídeo, gráficos e de texto para candidatos políticos que cumpram as regulamentações atuais. (Isso inclui o número de segundos que um aviso de isenção de responsabilidade precisa para ser executado e tamanhos de fonte específicos).
“Talvez esta tecnologia esteja dando aos malfeitores uma barreira um pouco mais baixa para mentir, mas isso não é absolutamente uma representação do coletivo”, disse Maya Hutchinson, fundadora da BattlegroundAI.
Pesquisadores e especialistas políticos esperam uma explosão de conteúdo político gerado por IA. À medida que as ferramentas gratuitas reduziram drasticamente as barreiras financeiras e técnicas, os candidatos podem agora produzir materiais de campanha polidos e hiperpersonalizados – no caso de Rinaldi, a partir da sua cama no Queens. Não se intimidando com a derrota, ele agora está focado em uma nova campanha: concorrer à assembleia estadual.
“Estou utilizando as ferramentas à minha disposição para ir contra a estrutura de poder”, disse Rinaldi. “E eu tenho que fazer coisas que eles não esperam, porque se eu fizer a mesma coisa que todo mundo fez, não tenho chance.”