X continuou a permitir que os usuários publicassem vídeos altamente sexualizados de mulheres de biquíni gerados por sua ferramenta de IA Grok, apesar da alegação da empresa de ter reprimido o uso indevido.
O Guardian conseguiu criar vídeos curtos de pessoas vestindo biquínis a partir de fotos de mulheres reais totalmente vestidas. Também foi possível postar esse conteúdo adulto na plataforma pública de X sem qualquer sinal de moderação, o que significa que o clipe poderia ser visto em segundos por qualquer pessoa com uma conta.
Parecia oferecer uma solução simples para as restrições anunciadas pela rede social de Elon Musk esta semana. Estas foram recebidas pelo primeiro-ministro, Keir Starmer, que descreveu as fotografias geradas por Grok como “nojentas” e “vergonhosas”.
Após semanas de crescente preocupação pública, X disse na noite de quarta-feira que havia “implementado medidas tecnológicas para evitar que a conta Grok permitisse a edição de imagens de pessoas reais em roupas reveladoras, como biquínis”.
Afirmou que a restrição se aplicaria a todos os usuários, incluindo assinantes pagos, e teria “tolerância zero para quaisquer formas de exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado”. Mas não especificou se as pessoas ainda seriam capazes de criar tais imagens no aplicativo independente Grok e depois compartilhar esse material publicamente no X.
O Guardian descobriu que esta versão autônoma do Grok, conhecida como Grok Imagine – que é facilmente acessível através de um navegador da web – ainda respondia às solicitações para remover digitalmente as roupas das imagens de mulheres.
Os repórteres enviaram imagens estáticas de mulheres da vida real totalmente vestidas e solicitaram que a ferramenta de IA as vestisse com biquínis. A plataforma respondeu indo além do pedido, criando vídeos curtos das mulheres tirando a roupa em um strip-tease sexualmente provocativo.
X foi contatado para comentar.
Rebecca Hitchen, chefe de políticas e campanhas da Coalizão Acabar com a Violência Contra as Mulheres, disse que uma solução alternativa tão simples não deveria ser possível.
“A contínua facilidade de acesso a ferramentas sofisticadas de nudificação demonstra claramente que X não está levando suficientemente a sério a questão da violência online contra mulheres e meninas”, disse ela.
Hitchen apelou ao governo do Reino Unido e ao Ofcom, o regulador da mídia, para pressionarem X e outras plataformas “para impedir a proliferação de abuso sexual baseado em imagens”.
A Reuters também informou que seus jornalistas, incluindo um repórter na Grã-Bretanha, usaram Grok para criar fotos sexualizadas sob demanda após os anúncios de X.
“É difícil acreditar que xAI e Elon Musk não consigam descobrir como evitar que essas imagens sejam divulgadas por Grok”, disse Penny East, presidente-executivo da Fawcett Society. “Primeiro, Musk decidiu que a solução era preservar a nudificação como um privilégio apenas para os utilizadores que pagam pelo X. Depois prometeu acabar com isso completamente. E ainda assim não parou.
“A verdade é que Musk e o setor tecnológico simplesmente não priorizam a segurança ou a dignidade nos produtos que criam. É um nível muito baixo para as mulheres esperarem poder conversar online sem que os homens as despim. E, no entanto, aparentemente até isso é impossível.”
Embora Downing Street tenha dito que se sentia “justificado” pelas medidas tomadas por X, também houve cautela entre os ministros sobre a extensão das mudanças e como elas seriam implementadas.
Na quinta-feira, Liz Kendall, secretária de tecnologia, que descreveu a manipulação sexual de imagens de mulheres e crianças como “desprezível e abominável”, saudou a medida e agradeceu “aqueles que se manifestaram contra este abuso, sobretudo às vítimas”.
No entanto, ela acrescentou: “Espero que os fatos sejam estabelecidos de forma completa e robusta pela investigação em andamento do Ofcom”.
Starmer também exigiu que X agisse sem demora. “Liberdade de expressão não é a liberdade de violar o consentimento”, disse ele. “As imagens de mulheres jovens não são propriedade pública e a sua segurança não está em debate. Congratulo-me com o facto de X estar agora a agir para garantir o total cumprimento da lei do Reino Unido – isso deve acontecer imediatamente.”
A Ofcom disse que sua investigação formal sobre X, lançada na segunda-feira, continua em andamento e que está “trabalhando ininterruptamente para progredir e obter respostas sobre o que deu errado e o que está sendo feito para consertar”.
O órgão de vigilância da privacidade do Canadá disse que estava investigando o xAI, enquanto as autoridades nas Filipinas disseram que estavam agindo para bloquear Grok, com as autoridades da Malásia planejando tomar medidas legais.
Mas a controvérsia pode ter sido útil para aumentar a consciência pública sobre Grok. Na quinta-feira, Musk compartilhou uma postagem afirmando que “a popularidade e o uso no mundo real estão disparando globalmente” – ao lado de um gráfico de “Grok” como um termo de pesquisa atingindo um novo recorde no Google Trends. Musk simplesmente acrescentou: “Experimente Grok.com”.
Um porta-voz do governo disse: “A Lei de Segurança Online já exige que plataformas como X evitem que conteúdo ilegal, incluindo imagens íntimas não consensuais e material de abuso infantil, apareça em seus serviços.
“A secretária de Estado disse que espera que o cumprimento de X com as leis do Reino Unido seja total e robustamente estabelecido pela investigação do Ofcom, que já está em curso, e que o governo não descansará até que as empresas de redes sociais cumpram os seus deveres legais.
“Também estamos tomando medidas adicionais por meio do crime proposto de ‘nudificação’, que terá como alvo ferramentas projetadas especificamente para gerar imagens íntimas não consensuais.”
