A xAI de Elon Musk anunciou que bloqueará a capacidade de sua ferramenta Grok AI de alterar imagens de pessoas reais para colocá-las em “roupas reveladoras como biquínis”, em meio a uma reação global sobre a ferramenta ser usada para gerar imagens explícitas.
A mudança ocorreu poucas horas depois de o bilionário dizer que não tinha conhecimento de nenhuma “imagem de menor de idade nua” feita por Grok.
O escrutínio de Grok intensificou-se em todo o mundo, com algumas pessoas a utilizá-lo para despir digitalmente mulheres e crianças sem o seu consentimento e a publicar essas imagens no X. Milhares destas imagens sexualizadas de IA inundaram o X nas últimas semanas. A xAI, que fabrica a Grok, também possui a X – ambas são administradas por Musk.
“Isso adiciona uma camada extra de proteção, ajudando a garantir que os indivíduos que tentam abusar da conta Grok para violar a lei ou nossas políticas possam ser responsabilizados”, postou a empresa no X na noite de quarta-feira. Afirmou também que tem “tolerância zero para quaisquer formas de exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado”.
As mudanças que X anunciou na quarta-feira serão aplicadas a todos os usuários da plataforma de mídia social, até mesmo aos assinantes pagantes, disse a empresa. X não especificou, entretanto, se as pessoas ainda seriam capazes de criar tais imagens no aplicativo Grok independente.
Mais cedo na quarta-feira, Musk escreveu em um post no X: “Eu (sic) não tenho conhecimento de nenhuma imagem nua de menores de idade gerada por Grok. Literalmente zero.” O xAI e o X de Musk têm enfrentado reações crescentes em todo o mundo, incluindo uma investigação do procurador-geral da Califórnia e apelos de legisladores e grupos de defesa para que a Apple e o Google retirem o Grok das lojas de aplicativos. Os reguladores do Reino Unido também lançaram uma investigação e países como a Malásia e a Indonésia instigaram proibições ou ações legais.
Musk disse que Grok foi programado para recusar solicitações ilegais e deve cumprir as leis de qualquer país ou estado.
“Obviamente, Grok não gera imagens espontaneamente. Ele o faz apenas de acordo com as solicitações dos usuários”, disse Musk na quarta-feira.
Musk disse anteriormente no X que qualquer pessoa que usasse o Grok para criar conteúdo ilegal sofreria as mesmas consequências que se carregasse conteúdo ilegal.
Três senadores democratas dos EUA pediram na semana passada que a Apple e o Google, da Alphabet, removessem o X e sua ferramenta de IA integrada Grok de suas lojas de aplicativos, citando a disseminação de imagens sexuais não consensuais de mulheres e menores na plataforma.
Uma coligação de grupos de mulheres, vigilantes da tecnologia e activistas progressistas também apelou aos gigantes da tecnologia para uma acção semelhante.
Na semana passada, X restringiu a capacidade de Grok de gerar ou editar imagens publicamente para usuários que não eram assinantes pagantes. No entanto, especialistas do setor e vigilantes disseram que Grok ainda era capaz de produzir imagens sexualmente explícitas e que restrições, como acesso pago a certos recursos, podem não bloquear totalmente o acesso a ferramentas de imagem de IA mais profundas.
No Reino Unido, a lei deverá mudar esta semana para criminalizar a criação de tais imagens, e o primeiro-ministro, Keir Starmer, disse na quarta-feira que X estava trabalhando para cumprir as novas regras. O regulador de comunicações Ofcom está investigando a ferramenta de IA.
X e xAI não retornaram solicitação de comentários.
Relatórios contribuídos pela Reuters
