Australianos fazem parte do número crescente de pessoas em todo o mundo que foram alvo de Elon MuskO chatbot Grok da AI, que permitiu a geração de imagens sexualizadas de mulheres e crianças sem o seu consentimento.Grok Imagine, um IA O gerador de imagens que permite aos usuários criar fotos e vídeos com instruções de texto foi lançado pela primeira vez em julho, mas começou a causar problemas depois de ser aberto ao público em outubro.
A ferramenta, hospedada no X, tem permitido aos usuários nudificar imagens ou retratar sexualmente outras pessoas até hoje.
Painel do Grok Imagine. (Groque)
Grok difere de outras plataformas geradoras de IA porque as imagens são compartilhadas publicamente e podem ser facilmente espalhadas.
Desde o final do ano passado, a Comissão de Segurança Eletrônica recebeu vários relatos de Grok sendo usado para gerar imagens sexualizadas não consensuais.
“Alguns relatos referem-se a imagens de adultos, que são avaliadas no âmbito do nosso esquema de abuso baseado em imagens, enquanto outros se referem a potencial material de exploração sexual infantil, que são avaliados no âmbito do nosso esquema de Conteúdo Ilegal e Restrito”, disse um porta-voz.
As denúncias de adultos estão atualmente a ser avaliadas, enquanto as denúncias de crianças não atingiram o limiar para material de exploração sexual infantil.
A eSafety não tomou nenhuma medida, mas disse estar preocupada com o uso de IA generativa.
“A eSafety continua preocupada com o uso crescente de IA generativa para sexualizar ou explorar pessoas, especialmente quando há crianças envolvidas”, disse o porta-voz.
Elon Musk está sendo chamado a fazer mais. (Andrew Harnik/Getty Images via CNN Newsource)
A análise da organização sem fins lucrativos AI Forensics disse em um relatório que analisou 20.000 imagens geradas por Grok entre 25 de dezembro e 1º de janeiro e descobriu que 2% retratavam uma pessoa que parecia ter 18 anos ou menos, incluindo 30 de mulheres ou meninas jovens ou muito jovens, em biquínis ou roupas transparentes.
Uma das vítimas inclui a ex-parceira de Musk, Ashley St Clair, que se afastou do bilionário da tecnologia após o nascimento de seu filho em 2024.
Ela disse O Guardião Os usuários usaram o Grok para criar “pornografia de vingança”.
“Fiquei horrorizada, me senti violada, principalmente ao ver a mochila do meu filho na parte de trás”, disse ela à publicação.
X não negou a existência de conteúdo sexualizado não consensual no Grok, mas alertou que os usuários poderiam ser suspensos ou encaminhados às autoridades.
“Tomamos medidas contra conteúdo ilegal em X, incluindo material de abuso sexual infantil, removendo-o, suspendendo permanentemente contas e trabalhando com governos locais e autoridades policiais conforme necessário”, disse X por meio de sua conta de segurança.
“Qualquer pessoa que use ou incentive Grok a criar conteúdo ilegal sofrerá as mesmas consequências que sofreria se carregasse conteúdo ilegal.”
Mas governos e reguladores de todo o mundo pediram que a plataforma de Musk fizesse mais para combater o conteúdo abusivo.
A secretária de tecnologia do Reino Unido, Liz Kendall, disse que o conteúdo é “absolutamente terrível e inaceitável em uma sociedade decente”.
“Não podemos e não permitiremos a proliferação destas imagens humilhantes e degradantes, que são desproporcionalmente dirigidas às mulheres e raparigas”, disse ela.
O regulador de comunicações do país, Ofcom, disse que fez “contato urgente” com X.
A União Europeia disse estar ciente do conteúdo e condenou veementemente Grok.
“Isto não é picante. Isto é ilegal. Isto é terrível. Isto é nojento. É assim que vemos as coisas, e isto não tem lugar na Europa. Esta não é a primeira vez que Grok está a gerar tal produção”, disse o porta-voz da Comissão Europeia, Thomas Regnier.
França, Polónia, Índia, Malásia e Brasil também apelaram a Musk para implementar regras rigorosas e tomar medidas.
– Com a Associated Press
