Grok Imagine provocou uma reação pública em vários países, incluindo Austráliaquando começou a permitir a geração de imagens sexualizadas de mulheres e crianças sem o seu consentimento.A Comissão Europeia lançou hoje uma investigação formal contra Xanteriormente conhecido como Twitter, para avaliar se lidou adequadamente com os riscos relacionados ao lançamento do Grok.Elon Musk é dono da X e da Grok. (Andrew Harnik/Getty Images via CNN Newsource)
Isso incluía os riscos de disseminação de conteúdos ilegais, tais como imagens sexualmente explícitas manipuladas, incluindo o que pode ser material de abuso sexual infantil.
A comissão afirmou que os riscos “parecem ter-se materializado, expondo os cidadãos da UE a danos graves”.
“Deepfakes sexuais de mulheres e crianças são uma forma violenta e inaceitável de degradação”, disse a vice-presidente executiva de Soberania Tecnológica, Segurança e Democracia, Henna Virkkunen.
“Com esta investigação, determinaremos se X cumpriu as suas obrigações legais ao abrigo da DSA (Lei dos Serviços Digitais), ou se tratou os direitos dos cidadãos europeus – incluindo os das mulheres e crianças – como danos colaterais do seu serviço”.
“A eSafety continua preocupada com o uso do sistema de IA generativo Grok on X para gerar conteúdo que possa sexualizar ou explorar pessoas, especialmente crianças”, afirmou, em 9 de janeiro.
“Embora o número de relatórios que a eSafety recebeu permaneça pequeno, a eSafety viu um aumento recente de quase nenhum para vários relatórios nas últimas semanas relacionados ao uso de Grok para gerar imagens sexualizadas ou de exploração.
Painel do Grok Imagine. (Groque)
“A eSafety usará seus poderes, incluindo avisos de remoção, quando apropriado e quando o material atender aos limites relevantes definidos na Lei de Segurança Online.”
A comissão disse que já havia tomado medidas coercivas em 2025 sobre alguns serviços de “nudificação” usados para criar material de exploração sexual infantil de IA.
A Comissão de Segurança Eletrônica não confirmou se recebeu uma resposta de X.
Cerca de uma semana depois, o proprietário do X, Musk, disse que estava ciente de “literalmente zero” imagens de menores nus geradas por Grok.
“Obviamente, Grok não gera imagens espontaneamente, ele o faz apenas de acordo com as solicitações dos usuários”, disse ele, em postagem no X.
“Quando solicitado a gerar imagens, ele se recusará a produzir qualquer coisa ilegal, já que o princípio de funcionamento da Grok é obedecer às leis de qualquer país ou estado.
“Pode haver momentos em que a invasão adversária dos prompts do Grok faça algo inesperado. Se isso acontecer, corrigimos o bug imediatamente.”
Em um Declaração X em 14 de janeirouma porta-voz disse que a empresa continua “comprometida em tornar o X uma plataforma segura para todos” e que tem “tolerância zero” com a exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado.
Ele também disse que deixaria de permitir que os usuários retratassem pessoas em “biquínis, roupas íntimas ou outros trajes reveladores”, mas apenas em locais onde isso seja ilegal.
Desde então, o site de tecnologia The Verge descobriu que continua sendo “extremamente fácil despir mulheres e editá-las em poses sexualizadas usando os aplicativos móveis ou sites X e Grok”.
A Comissão Europeia disse que a sua investigação poderia incluir o envio de mais pedidos de informação a X, a realização de entrevistas ou inspeções e a imposição de medidas provisórias.
