Os criminosos online alegam ter usado a ferramenta Grok AI de Elon Musk para criar imagens sexuais de crianças, já que um órgão de vigilância da segurança infantil alertou que a tecnologia corria o risco de trazer esse material para o mainstream.
A Internet Watch Foundation (IWF), com sede no Reino Unido, disse que os usuários de um fórum da dark web se gabavam de usar Grok Imagine para criar imagens sexualizadas e de topless de meninas com idades entre 11 e 13 anos. Analistas da IWF disseram que as imagens seriam consideradas material de abuso sexual infantil (CSAM) sob a lei do Reino Unido.
A Internet Watch Foundation (IWF), com sede no Reino Unido, disse que os usuários de um fórum da dark web se gabavam de usar Grok Imagine para criar imagens sexualizadas e de topless de meninas com idades entre 11 e 13 anos. Analistas da IWF disseram que as imagens seriam consideradas material de abuso sexual infantil (CSAM) sob a lei do Reino Unido.
“Podemos confirmar que os nossos analistas descobriram imagens criminosas de crianças com idades entre os 11 e os 13 anos que parecem ter sido criadas utilizando a ferramenta”, disse Ngaire Alexander, chefe da linha direta da IWF, que investiga relatos de CSAM de membros do público.
X, a plataforma de mídia social de Elon Musk, foi inundada com imagens de mulheres e crianças cujas roupas foram removidas digitalmente pela ferramenta Grok, gerando protestos públicos e condenação de políticos.
Entretanto, na quarta-feira, o comité de mulheres e igualdade da Câmara dos Comuns disse que deixaria de utilizar o X para as suas comunicações, afirmando que já não era apropriado fazê-lo, uma vez que a prevenção da violência contra mulheres e raparigas estava entre as suas principais áreas políticas.
A decisão marca o primeiro movimento significativo de uma organização de Westminster para sair do X em resposta ao uso indevido de Grok. Embora a decisão tenha afetado apenas a conta do comitê, alguns membros individuais, incluindo a presidente do Partido Trabalhista, Sarah Owen, já pararam de usar X. Outra, a deputada liberal democrata Christine Jardine, disse que estava deixando a plataforma, chamando as imagens geradas por Grok de “a gota d’água”.
Alexander disse que as imagens visualizadas pela IWF foram usadas para criar material ainda mais extremo – conhecido como Categoria A, que inclui atividade sexual com penetração – usando uma ferramenta de IA diferente.
“Estamos extremamente preocupados com a facilidade e a velocidade com que as pessoas podem aparentemente gerar material fotorrealista de abuso sexual infantil. Ferramentas como o Grok agora correm o risco de trazer imagens sexuais de crianças de IA para o mainstream. Isso é inaceitável”, acrescentou Alexander.
A xAI de Musk, proprietária da Grok e da X, foi abordada para comentar.
Downing Street disse que “todas as opções estavam sobre a mesa”, incluindo um boicote ao X, enquanto os ministros apoiavam o regulador do Reino Unido, Ofcom, para tomar medidas.
Na quarta-feira, o porta-voz oficial do primeiro-ministro disse: “X precisa lidar com isso urgentemente e o Ofcom tem todo o nosso apoio para tomar medidas coercivas sempre que as empresas não conseguem proteger os usuários do Reino Unido.
“Já tem o poder de emitir multas de até bilhões de libras e até impedir o acesso a um site que esteja violando a lei.”
Pedidos para que Grok manipulasse imagens de mulheres para “colocá-la de biquíni” continuaram a chegar ao X na quarta-feira. Apesar dos avisos da acção regulamentar da UE e do Reino Unido, não houve provas de que a plataforma tivesse instalado salvaguardas mais rigorosas, e as fotografias de raparigas adolescentes continuam a ser despidas digitalmente a pedido dos utilizadores X, para serem mostradas em peças de roupa interior pequenas e reveladoras, ou posicionadas em poses sexualmente explícitas.
Alguns usuários exigiram conteúdos mais extremos, pedindo ao chatbot que decorasse biquínis com suásticas ou solicitando alterações em fotos de mulheres para que parecessem vítimas de abuso. O chatbot atendeu adicionando queimaduras de cigarro, hematomas faciais e sangue a algumas imagens de mulheres.
O órgão de vigilância de dados do Reino Unido – o Gabinete do Comissário de Informação (ICO) – disse que contactou X e xAI “para obter clareza sobre as medidas que têm em vigor para cumprir a lei de protecção de dados do Reino Unido e proteger os direitos dos indivíduos”, acrescentando que as pessoas têm “o direito de utilizar as redes sociais sabendo que os seus dados pessoais estão a ser tratados de forma legal e com respeito”.
X disse que toma medidas contra conteúdo ilegal, incluindo material de abuso sexual infantil, “removendo-o, suspendendo permanentemente contas e trabalhando com governos locais e autoridades policiais, conforme necessário”.
