NOVOAgora você pode ouvir os artigos da Fox News!
O governo britânico intensificou sua repressão ao abuso sexual gerado por IA na segunda-feira, depois que os ministros confirmaram uma possível proibição da plataforma de mídia social X de Elon Musk em meio a uma investigação cada vez mais ampla e com a empresa potencialmente incorrendo em multas pesadas.
A mudança dramática segue o lançamento de uma investigação formal pelo Ofcom, o regulador de comunicações do Reino Unido, sobre se X violou seus deveres legais sob a Lei de Segurança Online do Reino Unido e veio após relatos de que o chatbot de IA integrado da plataforma, Grok, foi usado para gerar e compartilhar imagens falsas sexualizadas de mulheres e crianças.
Grok foi lançado em 2023, mas seu recurso gerador de imagens, Grok Imagine, foi adicionado em 2025 com um modo específico para gerar conteúdo adulto.
A Secretária de Estado da Ciência, Inovação e Tecnologia, Liz Kendall, descreveu o recente uso indevido da ferramenta de IA para gerar imagens sexualmente explícitas e não consensuais como “profundamente perturbador”.
Kendall também alertou que as empresas de mídia social seriam responsabilizadas se não agissem.
PM STARMER DO REINO UNIDO – EXTREMISTA EGÍPCIO ELOGIADO ENFRENTA SONDA CONTRA-TERROR SOBRE TWEETS RESSUPERADOS
A secretária de Estado da Ciência, Inovação e Tecnologia, Liz Kendall, alertou que o Ofcom tem autoridade para emitir “multas no valor de milhões de dólares” ou penalidades de até 10% da receita mundial qualificada de uma empresa. (Rasid Necati Aslim/Anadolu via Getty Images)
“Congratulo-me com a urgência do Ofcom em lançar uma investigação formal hoje”, disse Kendall, segundo a Reuters. “É vital que o Ofcom conclua esta investigação rapidamente porque o público – e mais importante ainda, as vítimas – não aceitará qualquer atraso.”
Em uma declaração separada compartilhada na segunda-feira, Kendall disse que a ferramenta Grok AI foi usada para criar e circular imagens íntimas degradantes e não consensuais.
“Nenhuma mulher ou criança deveria viver com medo de ter a sua imagem manipulada sexualmente pela tecnologia”, disse ela antes de acrescentar: “O conteúdo que circulou no X é vil. Não é apenas uma afronta à sociedade decente, é ilegal”.
Kendall acrescentou que compartilhar ou ameaçar compartilhar imagens íntimas falsas sem consentimento, incluindo imagens de pessoas em roupas íntimas, constitui um crime segundo a lei do Reino Unido.
Legisladores revelam ato de guarda bipartidária depois que os pais culpam chatbots de IA por suicídios e violência entre adolescentes
O governo britânico está intensificando a repressão ao abuso sexual gerado por IA, com autoridades confirmando uma possível proibição do X de Elon Musk como parte de uma investigação cada vez mais ampla. (José Luis Magana/AP Photo)
Ela alertou que o Ofcom tem autoridade para emitir “multas no valor de milhões de dólares” ou penalidades de até 10% da receita mundial qualificada de uma empresa.
“Mas X não precisa esperar a conclusão da investigação do Ofcom”, disse Kendall. “Eles podem optar por agir mais cedo para garantir que este material abominável e ilegal não possa ser partilhado na sua plataforma”, alertou ela.
A Ofcom disse que “fez contato urgente” com X em 5 de janeiro, exigindo explicações sobre as medidas tomadas para proteger os usuários do Reino Unido e estabelecendo um prazo de resposta até 9 de janeiro.
Embora a xAI, outra empresa fundada por Musk, tenha respondido, a Ofcom disse que decidiu abrir uma investigação formal depois de analisar as evidências disponíveis “como uma questão da mais alta prioridade”.
Em um comunicado divulgado na segunda-feira, o Ofcom disse: “Relatos de Grok sendo usado para criar e compartilhar imagens íntimas ilegais não consensuais e material de abuso sexual infantil no X têm sido profundamente preocupantes”.
“As plataformas devem proteger as pessoas no Reino Unido de conteúdos ilegais no Reino Unido, e não hesitaremos em investigar onde suspeitamos que as empresas estão a falhar nos seus deveres, especialmente quando há risco de danos às crianças”, afirmou o comunicado.
OPENAI APERTA REGRAS DE IA PARA ADOLESCENTES, MAS AS PREOCUPAÇÕES PERMANECEM
O logotipo do chatbot AI Grok, que está sendo desenvolvido pela empresa xAI e foi fundado por Elon Musk em 2023, pode ser visto na tela de um iPhone apoiado no teclado de um laptop. (Aliança Silas Stein/Picture via Getty Images)
Conforme relatado anteriormente pela Fox News Digital, o chatbot reconheceu em uma postagem pública no X que havia gerado e compartilhado uma imagem de IA representando duas meninas em trajes sexualizados, chamando o incidente de “falha nas salvaguardas” e pedindo desculpas pelos danos causados.
Em meio a críticas crescentes, Grok confirmou que começou a restringir alguns recursos de geração e edição de imagens para assinantes pagantes. O chatbot disse que as limitações foram implementadas para evitar novos usos indevidos.
Musk também acusou o governo do Reino Unido de “fascismo” na segunda-feira por “prender milhares de pessoas por postagens nas redes sociais”.
O bilionário fundador da Tesla respondeu a uma postagem no X que afirmava que o país prende mais pessoas por postagens nas redes sociais do que “qualquer outro país do mundo”.
Juntamente com a investigação do Ofcom, o governo do Reino Unido anunciou que a legislação que criminaliza a criação de imagens íntimas não consensuais geradas por IA entraria em vigor esta semana.
Kendall disse que a responsabilidade não cabe apenas aos indivíduos.
CLIQUE AQUI PARA BAIXAR O APLICATIVO FOX NEWS
“As plataformas que hospedam esse tipo de material devem ser responsabilizadas, incluindo X”, disse ela.
Se eles não agirem, ela disse que está “preparada para ir mais longe”.
Entretanto, o porta-voz oficial do primeiro-ministro do Reino Unido, Keir Starmer, disse que a presença do governo na plataforma estava “sob revisão” e que “todas as opções estão sobre a mesa”.
A Associated Press também informou na segunda-feira que a Malásia e a Indonésia se tornaram os primeiros países a bloquear Grok.
A Fox News Digital entrou em contato com o gabinete de Elon Musk e do primeiro-ministro Keir Starmer para comentar.
A Associated Press e a Reuters contribuíram para este relatório.
Emma Bussey é redatora de notícias de última hora da Fox News Digital. Antes de ingressar na Fox, ela trabalhou no The Telegraph com a equipe noturna dos EUA, em áreas que incluíam relações exteriores, política, notícias, esportes e cultura.
