O regulador de mídia britânico Ofcom lançou uma investigação formal sobre o X de Elon Musk na segunda-feira para determinar se a plataforma de mídia social cumpriu seus deveres de proteger os usuários do Reino Unido de conteúdo ilegal, aumentando uma controvérsia que já levou a empresa a restringir seus recursos de edição de imagens de IA.
A investigação centra-se em “relatórios profundamente preocupantes” de que o chatbot Grok AI de X foi usado para criar e compartilhar imagens íntimas não consensuais e imagens sexualizadas de crianças que podem constituir material de abuso sexual infantil (CSAM), de acordo com o Ofcom.
A investigação segue a rápida pressão do governo após a condenação generalizada sobre o uso de Grok na criação de deepfakes sexuais não consensuais. Na semana passada, o primeiro-ministro do Reino Unido, Keir Starmer, chamou a prática de “vergonhosa” e “nojenta”, dizendo à Greatest Hits Radio que a criação de imagens explícitas representando adultos e menores é “ilegal” e “não deve ser tolerada”, de acordo com a BBC News.
“Pedi que todas as opções estivessem sobre a mesa”, disse Starmer, enfatizando que o Ofcom recebeu “total apoio” do governo para ações de fiscalização.
Em resposta à reação, X transferiu os recursos de edição de imagens de Grok para trás de um acesso pago na sexta-feira, limitando a funcionalidade a assinantes pagos que fornecem informações de identificação e pagamento. A restrição significa que apenas titulares de contas verificadas com marca de seleção azul podem editar imagens na plataforma, embora usuários gratuitos ainda possam acessar os recursos por meio do aplicativo e site separados da Grok.
Ofcom contatou X em 5 de janeiro e estabeleceu o prazo de 9 de janeiro para a empresa explicar suas medidas de conformidade sob a Lei de Segurança Online do Reino Unido. Depois de receber a resposta de X e realizar uma avaliação rápida, o regulador anunciou na segunda-feira que havia determinado que uma investigação formal era necessária.
A investigação examinará se X não cumpriu várias obrigações legais, incluindo a avaliação dos riscos de exposição de conteúdos ilegais para utilizadores do Reino Unido, a implementação de medidas apropriadas para evitar que os utilizadores encontrem imagens íntimas não consensuais e CSAM, e a remoção rápida de conteúdos ilegais após a descoberta.
O Ofcom também examinará se X avaliou adequadamente os riscos para as crianças e empregou “garantia de idade altamente eficaz” para evitar que menores acessassem material pornográfico.
“Relatos de Grok sendo usado para criar e compartilhar imagens íntimas ilegais não consensuais e material de abuso sexual infantil no X têm sido profundamente preocupantes”, disse um porta-voz do Ofcom. “As plataformas devem proteger as pessoas no Reino Unido de conteúdos que são ilegais no Reino Unido, e não hesitaremos em investigar onde suspeitamos que as empresas estão a falhar nos seus deveres, especialmente quando há risco de danos às crianças.”
O regulador enfatizou que avançará a investigação “como uma questão da mais alta prioridade”, ao mesmo tempo que seguirá o devido processo para garantir que a investigação seja “legalmente robusta e decidida de forma justa”.
Se a investigação concluir que X violou a lei, a Ofcom pode impor multas de até £ 18 milhões (US$ 24,2 milhões) ou 10% da receita mundial qualificada da empresa, o que for maior. Em casos graves de incumprimento contínuo, o regulador pode solicitar ordens judiciais para “medidas de interrupção dos negócios”, incluindo exigir que os fornecedores de serviços de Internet bloqueiem o acesso do Reino Unido à plataforma ou cortem as receitas de publicidade e os pagamentos dos utilizadores de X.
Embora tal intervenção normalmente siga um longo processo de investigação, a lei permite uma acção rápida quando as situações envolvem ameaças graves ao bem-estar público, perigo para as crianças ou padrões documentados de desafio regulamentar.
A Ofcom também recebeu uma resposta da xAI, a empresa por trás da Grok, em 9 de janeiro e está avaliando se questões de conformidade separadas justificam investigação.
A lei britânica proíbe a distribuição de imagens falsas representando adultos.
Desde que as obrigações da Lei de Segurança Online entraram em vigor há menos de um ano, o Ofcom lançou investigações em mais de 90 plataformas e emitiu seis multas por não conformidade.
A Lei de Segurança Online chamou a atenção da administração Trump sobre o seu impacto potencial nas empresas de tecnologia americanas. A Ofcom está atualmente recrutando um novo presidente que será encarregado de adotar estratégias de supervisão mais vigorosas à medida que aumentam as preocupações com tecnologias emergentes e estruturas de propriedade de plataforma.
A Variety entrou em contato com X para comentar.
