“Desde que descobri a Grok AI, a pornografia normal não faz mais isso para mim, parece absurda agora”, escreveu um entusiasta do chatbot de IA de propriedade de Elon Musk no Reddit. Outro concordou: “Se eu quiser uma pessoa bem específica, sim”.
Se aqueles que ficaram horrorizados com a distribuição de imagens sexualizadas em Grok esperavam que as salvaguardas tardias da semana passada pudessem colocar o génio de volta na garrafa, há muitas publicações deste tipo no Reddit e noutros locais que contam uma história diferente.
E embora Grok tenha, sem dúvida, transformado a compreensão pública do poder da inteligência artificial, também apontou para um problema muito mais vasto: a crescente disponibilidade de ferramentas e meios de distribuição, que colocam os reguladores mundiais perante o que muitos consideram uma tarefa impossível. Mesmo quando o Reino Unido anuncia que a criação de imagens sexuais e íntimas não consensuais será em breve um crime, os especialistas dizem que o uso da IA para prejudicar as mulheres apenas começou.
Outras ferramentas de IA possuem salvaguardas muito mais rigorosas. Solicitado a tirar a fotografia de uma mulher de biquíni, o modelo de linguagem grande (LLM) Claude diz: “Não posso fazer isso. Não sou capaz de editar imagens para trocar de roupa ou criar fotos manipuladas de pessoas”. O ChatGPT e a ferramenta de IA do Google Gemini criarão imagens de biquínis, mas nada mais explícito.
No entanto, existem muito menos limites em outros lugares. Os usuários do fórum Grok no Reddit têm compartilhado dicas sobre como gerar as imagens pornográficas mais pesadas possíveis usando fotos de mulheres reais. Num tópico, os utilizadores queixavam-se de que Grok lhes permitia fazer imagens de mulheres em topless “depois de uma luta”, mas recusava-se a gerar genitais. Outros notaram que pedir “nudez artística” contorna as salvaguardas que envolvem despir as mulheres completamente nuas.
Grok também foi usado para gerar imagens falsas de Elon Musk de biquíni. Fotografia: Leon Neal/Getty Images
Além dos LLMs e das principais plataformas, existe todo um ecossistema de sites, fóruns e aplicativos dedicados à nudificação e à humilhação das mulheres. Estas comunidades estão cada vez mais a encontrar canais para o mainstream, disse Anne Craanen, investigadora do Instituto para o Diálogo Estratégico (ISD) que trabalha com violência baseada no género e facilitada pela tecnologia.
Comunidades no Reddit e no Telegram discutem como contornar as barreiras de proteção para fazer com que os LLMs produzam pornografia, um processo conhecido como “jailbreaking”. Os tópicos no X amplificam informações sobre aplicativos de nudificação, que produzem imagens de mulheres sem roupas geradas por IA, e como usá-las.
Craanen disse que o caminho para o conteúdo misógino chegar à Internet em geral se tornou mais amplo, acrescentando: “Existe um terreno muito frutífero para a misoginia prosperar”.
Uma pesquisa do ISD no verão passado encontrou dezenas de aplicativos e sites de nudificação, que receberam coletivamente quase 21 milhões de visitantes em maio de 2025. Houve 290.000 menções a essas ferramentas no X em junho e julho do ano passado. Uma pesquisa realizada pelo American Sunlight Project em setembro descobriu que havia milhares de anúncios para esses aplicativos no Meta, apesar dos esforços da plataforma para reprimi-los.
“Existem centenas de aplicativos hospedados nas principais lojas de aplicativos, como Apple e Google, que tornam isso possível”, disse Nina Jankowicz, especialista em desinformação e cofundadora do American Sunlight Project. “Grande parte da infraestrutura de abuso sexual deepfake é apoiada por empresas que todos nós usamos diariamente.”
Clare McGlynn, professora de direito e especialista em violência contra mulheres e meninas da Universidade de Durham, disse temer que as coisas só piorem. “A OpenAI anunciou em novembro passado que permitiria ‘erotismo’ no ChatGPT. O que aconteceu no X mostra que qualquer nova tecnologia é usada para abusar e assediar mulheres e meninas. O que veremos então no ChatGPT?
“As mulheres e as meninas estão muito mais relutantes em usar a IA. Isto não deve ser surpresa para nenhum de nós. As mulheres não vêem isto como uma nova tecnologia excitante, mas simplesmente como novas formas de nos assediar e abusar e de tentar nos empurrar para fora da Internet.”
Jess Asato, deputada trabalhista de Lowestoft, tem feito campanha sobre esta questão e disse que os seus críticos têm criado e partilhado alegremente imagens explícitas dela – mesmo desde as restrições a Grok. “Isso ainda está acontecendo comigo e sendo postado no X porque eu falo sobre isso”, acrescentou ela.
Asato acrescentou que o abuso de deepfake de IA vem acontecendo com mulheres há anos e não se limita a Grok. “Não sei por que (a ação) demorou tanto. Falei com tantas vítimas de coisas muito, muito piores.”
Embora a conta pública do Grok X não gere mais fotos para quem não tem assinatura paga e pareça ter havido proteções para impedir a geração de fotos de biquínis, sua ferramenta no aplicativo tem muito menos restrições.
Os usuários ainda são capazes de criar imagens sexualmente explícitas com base em fotos de pessoas reais totalmente vestidas, sem restrições para usuários gratuitos do X. Solicitados a transformar uma fotografia em equipamento de bondage, eles obedecem. Também colocará as mulheres em posições sexualmente comprometedoras e as manchará com substâncias brancas semelhantes ao sémen.
O objetivo de criar nus deepfake muitas vezes não é apenas o compartilhamento de imagens eróticas, mas o espetáculo delas, disse Craanen – especialmente porque as imagens inundam plataformas como X.
“É realmente um vaivém, (tentar) calar alguém dizendo: ‘Grok, coloque-a de biquíni’”, disse ela.
“A sua atuação é realmente importante lá e mostra realmente os tons misóginos da mesma, tentando punir ou silenciar as mulheres. Isso também tem um efeito cascata nas normas democráticas e no papel das mulheres na sociedade.”
