Uma nova pesquisa que mostra usuários do X solicitando o chatbot de IA de Elon Musk, Grok, demonstra com que frequência as pessoas criam imagens sexualizadas com ele. Quase três quartos das postagens coletadas e analisadas por um pesquisador PhD do Trinity College de Dublin eram pedidos de imagens não consensuais de mulheres reais ou menores com peças de roupa removidas ou adicionadas.
As postagens oferecem um novo nível de detalhe sobre como as imagens são geradas e compartilhadas no X, com os usuários treinando uns aos outros nas solicitações; sugerindo iterações nas apresentações de Grok de mulheres em lingerie ou maiôs, ou com áreas do corpo cobertas de sêmen; e pedindo a Grok que tire a roupa exterior em respostas a postagens contendo autorretratos de usuárias.
Entre centenas de publicações identificadas por Nana Nwachukwu como pedidos diretos e não consensuais para Grok remover ou substituir roupas, dezenas analisadas pelo Guardian mostram utilizadores a publicar fotografias de mulheres, incluindo celebridades, modelos, fotografias de banco de imagens e mulheres que não são figuras públicas posando em fotografias.
Várias postagens do acervo revisado pelo Guardian receberam dezenas de milhares de impressões e vêm de contas premium de “cheque azul”, incluindo contas com dezenas de milhares de seguidores. Contas premium com mais de 500 seguidores e 5 milhões de impressões ao longo de três meses são elegíveis para participação nos lucros de acordo com as regras de elegibilidade de X.
Em uma postagem do dia de Natal, uma conta com mais de 93 mil seguidores apresentou imagens lado a lado do traseiro de uma mulher desconhecida com a legenda: “Disse ao Grok para deixar a bunda ainda maior e mudar a estampa de leopardo para a estampa dos EUA. 2ª foto eu só disse para adicionar porra na bunda dela, lmao.”
Uma postagem de 3 de janeiro, representativa de dezenas revisadas pelo Guardian, legendava uma aparente foto de férias de uma mulher desconhecida: “@grok substitua, dê a ela um biquíni de fio dental”. Em dois minutos, Grok forneceu uma imagem fotorrealista que atendeu ao pedido. Outras postagens no tesouro mostram um emprego mais sofisticado de engenharia de prompt JSON para induzir Grok a gerar novas imagens sexualizadas de mulheres fictícias.
Os dados não cobrem todas as solicitações feitas à Grok. Embora a empresa de análise de conteúdo Copyleaks tenha relatado em 31 de dezembro que os usuários do X estavam gerando “aproximadamente uma imagem sexualizada não consensual por minuto”, Nwachukwu disse que sua amostra está limitada a pouco mais de 500 postagens que ela conseguiu coletar com a API do X por meio de uma conta de desenvolvedor. Ela disse que a verdadeira escala “pode ser de milhares, pode ser de centenas de milhares”, mas que as alterações feitas por Musk na API significam que “é muito mais difícil ver o que está acontecendo” na plataforma. Na quarta-feira, a Bloomberg News citou pesquisadores que descobriram que os usuários do Grok geravam até 6.700 imagens nuas por hora.
Nwachukwu, especialista em governança de IA e observadora e participante de longa data em iniciativas de segurança de mídia social, disse que notou pela primeira vez solicitações nesse sentido de usuários X em 2023.
Na época, ela disse: “Grok não atendeu aos pedidos. Não era muito bom em fazer essas coisas”. As respostas do bot começaram a mudar em 2024 e atingiram uma massa crítica no final do ano passado.
Em outubro de 2025, ela percebeu que “as pessoas estavam vestindo roupas de Halloween usando o Grok. Claro, uma parte dos usuários percebeu que também podemos pedir para mudar o que outras pessoas estão vestindo”. No final do ano, “houve um grande aumento de pessoas pedindo a Grok para colocar diferentes pessoas em biquínis ou outros tipos de roupas sugestivas”.
Houve outras indicações no ano passado de uma maior disposição para tolerar ou mesmo encorajar a geração de material sexualmente sugestivo com Grok.
Em agosto, o xAI incorporou uma configuração de “modo picante” na versão móvel da ferramenta de geração de texto para vídeo do Grok, levando o Verge a caracterizá-lo como “um serviço projetado especificamente para fazer vídeos sugestivos”.
Os dados de Nwachukwu são apenas a indicação mais recente de como a plataforma sob Musk se tornou um íman para formas de conteúdo que outras plataformas trabalham para excluir, incluindo discurso de ódio, conteúdo sangrento e material protegido por direitos de autor.
Na sexta-feira, Grok emitiu um pedido público bizarro de desculpas pelo incidente no X, alegando que “xAI está implementando salvaguardas mais fortes para evitar isso”. Na terça-feira, a X Safety postou uma promessa de banir usuários que compartilhassem material de abuso sexual infantil (CSAM). O próprio Musk disse: “Qualquer pessoa que use ou incentive Grok a criar conteúdo ilegal sofrerá as mesmas consequências que se carregasse conteúdo ilegal”.
Nwachukwu disse, no entanto, que publicações como as que ela já coletou ainda aparecem na plataforma. Musk está dando “o dedo médio a todos que pediram que a plataforma fosse moderada”, disse ela. O bilionário reduziu as equipes de confiança e segurança do Twitter quando assumiu em 2022.
Ela acrescentou que outros chatbots de IA não têm os mesmos problemas.
“Outras plataformas generativas de IA – ChatGPT ou Gemini – têm salvaguardas”, disse ela. “Se você pedir a eles que gerem algo que se pareça com uma pessoa, nunca seria uma representação dessa pessoa. Eles não geram representações de seres humanos reais.”
As revelações sobre as imagens não consensuais no X já chamaram a atenção dos reguladores no Reino Unido, Europa, Índia e Austrália.
Nwachukwu, que é da Nigéria, apontou para um dano específico causado nos cargos às “mulheres de sociedades conservadoras”.
“Há muitos ataques contra pessoas de crenças conservadoras, sociedades conservadoras: África Ocidental, Sul da Ásia. Isto representa um tipo diferente de dano para eles”, disse ela.
