O influente comitê de mulheres e igualdade do Commons decidiu parar de usar o X depois que a ferramenta de IA do site de mídia social começou a gerar milhares de imagens alteradas digitalmente de mulheres e crianças sem roupas.
A decisão do comité multipartidário de desativar a sua conta oficial X coloca uma pressão renovada sobre os ministros para tomarem medidas decisivas depois de o site ter sido inundado com imagens, incluindo fotos sexualizadas e sem roupa de crianças, geradas pela sua ferramenta de IA, Grok.
Sarah Owen, a deputada trabalhista que preside a comissão, disse que, dado que a prevenção da violência contra mulheres e raparigas estava entre as suas principais áreas políticas, “tornou-se cada vez mais claro que X não é uma plataforma apropriada para utilizar nas nossas comunicações”.
Liz Kendall, secretária de tecnologia, classificou as imagens como “terríveis e inaceitáveis numa sociedade decente” e apelou ao Ofcom, o regulador dos meios de comunicação do Reino Unido, para tomar todas as medidas necessárias.
Falando na quarta-feira, o porta-voz de Keir Starmer disse que “todas as opções permanecem em cima da mesa” para o Ofcom, que tem o poder de impor multas pesadas ou de restringir o acesso a um site.
A decisão do comité de mulheres e igualdade é o primeiro movimento significativo de uma organização de Westminster para sair do X. Entende-se que o comité tomou a decisão numa reunião na quarta-feira. Ela manterá sua conta X, que tem cerca de 27 mil seguidores, existente, mas inativa, para garantir que ninguém mais possa assumi-la.
Alguns membros individuais do comitê, como Owen, já pararam de usar o X.
Owen também planeja escrever ao Gabinete do Governo e ao Ofcom para pedir ação contra X.
Ela disse: “Eu pessoalmente saí do X em 2024, depois que a plataforma e seu proprietário promoveram e pagaram criadores de material racista e misógino de extrema direita. O comitê ouviu no final do ano passado sobre investigações sobre a coesão da comunidade que as postagens do X violam regularmente a lei do Reino Unido sobre discurso de ódio.
“Nos últimos dias, X e xAI permitiram a criação e compartilhamento de deepfakes de IA, imagens íntimas não consensuais e material de abuso sexual infantil, todas áreas identificadas como violência online contra mulheres e meninas pelo nosso comitê.
“Não consideramos apropriado utilizar tal plataforma para partilhar o nosso trabalho. Espero que o governo, o Ofcom e as agências de aplicação da lei relevantes trabalhem rapidamente para fazer com que X cumpra imediatamente a lei do Reino Unido sobre segurança online e abuso não consensual de imagens íntimas, para ser responsabilizado pelas suas falhas e se se recusar a cumprir as nossas leis, deve ser devidamente sancionado.”
Na segunda-feira, o Ofcom disse estar ciente das sérias preocupações levantadas sobre a criação de imagens de pessoas nuas e imagens sexualizadas de crianças por Grok. Ela disse que entrou em contato com X e xAI “para entender quais medidas eles tomaram para cumprir seus deveres legais de proteção aos usuários no Reino Unido” e avaliaria a necessidade de uma investigação com base na resposta da empresa.
O porta-voz de Starmer disse: “O que vimos em Grok é uma vergonha. É completamente inaceitável. Ninguém deveria ter que passar pela provação de falsificações profundas de si mesmo online, e não permitiremos a proliferação dessas imagens humilhantes.
“X precisa lidar com isso urgentemente, e o Ofcom tem todo o nosso apoio para tomar medidas de fiscalização sempre que as empresas não conseguirem proteger os usuários do Reino Unido. Ele já tem o poder de emitir multas de até bilhões de libras e até mesmo impedir o acesso a um site que esteja violando a lei. E quando se trata de manter as pessoas seguras online, todas as opções permanecem sobre a mesa.”
Questionado sobre o assunto, o porta-voz de Kemi Badenoch disse que o líder conservador concordava com o governo: “Ambos consideramos isto absolutamente abominável e queremos que seja reprimido o mais rapidamente possível”.
Questionado se isso poderia significar que Badenoch, um usuário entusiasmado do X que tem 350 mil seguidores, poderia deixar a plataforma, ele disse: “Estamos muito claros de que o que está acontecendo com esses deepfakes Grok é absolutamente nojento e tem que ser feito algo para impedir isso. Não estou prestes a anunciar políticas aqui.”
Na manhã de quarta-feira, perguntaram a Nigel Farage se ele estava feliz em ganhar dinheiro com um site que tinha um modelo de negócios baseado em parte em material de abuso sexual infantil. O líder da Reform UK é pago pelo envolvimento no site como um usuário verificado e muito seguido.
Farage evitou a pergunta específica, mas disse estar “muito preocupado” com as imagens e disse acreditar que X ouviria as críticas.
