A mãe de um dos filhos de Elon Musk disse que se sentiu “horrorizada e violada” depois que fãs do bilionário usaram sua ferramenta de IA, Grok, para criar falsas imagens sexualizadas dela, manipulando fotos reais.
A escritora e estrategista política Ashley St Clair, que se afastou de Musk após o nascimento de seu filho em 2024, disse ao Guardian que apoiadores do dono do X estavam usando a ferramenta para criar uma forma de pornografia de vingança, e até tiraram a roupa de uma foto dela quando criança.
Grok foi criticado por legisladores e reguladores em todo o mundo depois que foi descoberto que ele era usado para virtualmente despir imagens de mulheres e crianças e mostrá-las em posições sexualizadas comprometedoras. O abuso sexual generalizado consiste em usuários do X pedindo a Grok para manipular fotos de mulheres totalmente vestidas para colocá-las de biquíni, de joelhos, e cobri-las com o que parece ser sêmen.
“Fiquei horrorizado, me senti violado, principalmente ao ver a mochila do meu filho na parte de trás”, disse St Clair sobre uma imagem em que ela foi colocada de biquíni, virada e curvada.
“É outra ferramenta de assédio. O consentimento é a questão toda. As pessoas estão dizendo, bem, é apenas um biquíni, não é explícito. Mas é uma ofensa sexual despir uma criança de forma não consensual.”
Os acólitos de Musk não gostavam dela desde que ela tornou público o desejo dele de construir uma “legião” de crianças, disse ela. Musk é pai de outros 13 filhos, com outras três mulheres.
Ela disse: “É engraçado, considerando a linha mais direta que tenho e eles não fazem nada. Reclamei com X e eles nem tiraram uma foto minha de quando eu era criança, que foi despida por Grok.”
O abuso começou no fim de semana, e ela disse que desde o início ela vinha denunciando a X e Grok, sem sucesso. “O tempo de resposta também está aumentando”, acrescentou ela. “Quando isso começou, Grok estava removendo alguns deles.”
A imagem manipulada dela aos 14 anos já existia há 12 horas na tarde de segunda-feira. Ela e várias outras imagens destacadas por St Clair foram finalmente removidas depois que o Guardian solicitou comentários de X.
Ela disse: “Grok disse que não produziria mais essas imagens, mas elas continuaram a piorar. As pessoas tiraram fotos minhas quando criança e me despiram.
St Clair disse que o abuso piorou quando ela reclamou publicamente sobre a manipulação de suas imagens.
Desde que se manifestaram, outras vítimas de abuso entraram em contato. Ela recebeu outras imagens sexuais perturbadoras que a ferramenta de IA criou, incluindo algumas de crianças. “Desde que postei isso, recebi uma criança de seis anos coberta com o que deveria ser sêmen”, disse St Clair. “Ela estava de vestido completo. Disseram para colocá-la em um biquíni azul e cobri-la com o que parecia ser sêmen.”
A generalização deste abuso foi possível graças a Grok, disse ela, acrescentando: “Também estou a ver imagens em que eles acrescentam hematomas às mulheres, espancam-nas, amarram-nas, mutilam-nas. Estes malucos costumavam ter de ir para as profundezas obscuras da Internet e agora estão numa aplicação de redes sociais convencional”.
St Clair acredita que isso está sendo feito para silenciar as mulheres e que o problema vai piorar. Isso ocorreu porque a IA estava sendo “treinada” de acordo com as instruções dadas por homens sexualmente abusivos, enquanto as mulheres eram afastadas da plataforma pelo abuso, disse ela.
“Se você é mulher, não pode postar uma foto e não pode falar ou corre o risco de sofrer abusos”, disse ela. “É perigoso e acredito que isso seja intencional. Você deve alimentar a humanidade e os pensamentos da IA e quando você está fazendo coisas que impactam particularmente as mulheres e elas não querem participar porque estão sendo alvo, isso significa que a IA será inerentemente tendenciosa.”
Ela referiu-se a isso como uma “questão de direitos civis” porque “as mulheres não têm a capacidade de participar e treinar os modelos da mesma forma que os homens quando são alvo. Os outros LLMs também estão a ser formados na Internet e isso está a envenenar o poço”.
Musk e sua equipe poderiam ter impedido esse abuso generalizado de mulheres em minutos, disse ela. “Essas pessoas acreditam que estão acima da lei, porque estão. Não acham que vão se meter em problemas, acham que não terão consequências.”
Ela acrescentou: “Eles estão tentando expulsar as mulheres da conversa. Se você falar abertamente, se postar uma foto sua online, você é um alvo justo para essas pessoas. A melhor maneira de calar a boca de uma mulher é abusar dela”.
St Clair disse que estava considerando uma ação legal e acreditava que poderia ser classificado como pornografia de vingança de acordo com a nova Lei Take It Down nos EUA. O Reino Unido está em processo de proibição do despir digital das mulheres, mas a lei relevante ainda não foi aprovada.
Um porta-voz do X disse: “Tomamos medidas contra o conteúdo ilegal no X, incluindo material de abuso sexual infantil (CSAM), removendo-o, suspendendo permanentemente as contas e trabalhando com os governos locais e as autoridades policiais, conforme necessário. Qualquer pessoa que use ou incentive Grok a criar conteúdo ilegal sofrerá as mesmas consequências que se carregasse conteúdo ilegal”.
