O X de Elon Musk implementou novas restrições tecnológicas em seu chatbot Grok AI para evitar a criação de deepfakes sexualmente explícitos, respondendo à crescente pressão internacional enquanto o regulador de mídia britânico Ofcom continua sua investigação formal sobre se a plataforma violou a lei do Reino Unido.
X anunciou quarta-feira que implantou medidas tecnológicas para evitar que a conta Grok permita a edição de imagens de pessoas reais em roupas reveladoras como biquínis, aplicando a restrição a todos os usuários, inclusive assinantes pagos. A empresa também confirmou que está bloqueando geograficamente a capacidade de gerar tais imagens em jurisdições onde isso é ilegal.
“Continuamos comprometidos em tornar o X uma plataforma segura para todos e continuamos a ter tolerância zero com quaisquer formas de exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado”, disse a X Safety em comunicado publicado em sua conta.
O regulador do Reino Unido, Ofcom, classificou as mudanças como um “desenvolvimento bem-vindo”, mas enfatizou que sua investigação sobre se X violou as leis do Reino Unido “continua em andamento”. “Estamos trabalhando 24 horas por dia para progredir nisso e obter respostas sobre o que deu errado e o que está sendo feito para consertar”, disse um porta-voz do Ofcom, segundo a BBC News.
O primeiro-ministro do Reino Unido, Sir Keir Starmer, dirigiu-se ao Parlamento na quarta-feira, chamando as ações de Grok e X de “nojentas e vergonhosas”, ao mesmo tempo que observou que foi informado naquela manhã que X estava agindo para garantir o total cumprimento da lei do Reino Unido.
“Se assim for, isso é bem-vindo, mas não vamos recuar”, disse Starmer. “X deve agir. Tomaremos as medidas necessárias. Fortaleceremos as leis existentes e nos prepararemos para a legislação se for necessário ir mais longe, e o Ofcom continuará sua investigação independente.”
Starmer também criticou a decisão anterior de X de mover a edição de imagens para trás de um acesso pago como “horrível”, reafirmando que o governo está “absolutamente determinado a agir” e que o Ofcom tem o “apoio total” do governo.
O anúncio de X veio horas depois que o principal promotor da Califórnia disse que o estado estava investigando a disseminação de deepfakes sexualizados de IA, inclusive de crianças, gerados pelo modelo de IA, de acordo com a BBC News.
Elon Musk abordou a questão em um comunicado, alegando que “não tinha conhecimento de nenhuma imagem nua de menores de idade gerada por Grok. Literalmente zero”.
“Obviamente, Grok não gera imagens espontaneamente, apenas de acordo com as solicitações dos usuários”, disse Musk. “Quando solicitado a gerar imagens, ele se recusará a produzir qualquer coisa ilegal, pois o princípio de funcionamento da Grok é obedecer às leis de qualquer país ou estado.”
Musk reconheceu a possibilidade de “hackeamento adversário de prompts Grok” fazendo algo inesperado, acrescentando: “Se isso acontecer, corrigiremos o bug imediatamente”.
A criação de imagens e a capacidade de editar imagens através da conta Grok na plataforma X agora estão disponíveis apenas para assinantes pagos, o que X disse “adiciona uma camada extra de proteção, ajudando a garantir que os indivíduos que tentam abusar da conta Grok para violar a lei ou nossas políticas possam ser responsabilizados”.
X enfatizou que todos os avisos de IA e conteúdo gerado postados na plataforma devem cumprir estritamente suas regras, com a equipe de segurança da empresa trabalhando para “adicionar salvaguardas adicionais, tomar medidas rápidas e decisivas para remover conteúdo violador e ilegal, suspender permanentemente contas quando apropriado, e colaborar com os governos locais e as autoridades policiais, conforme necessário”.
“A rápida evolução da IA generativa apresenta desafios para toda a indústria”, afirmou X. “Estamos trabalhando ativamente com os usuários, nossos parceiros, órgãos governamentais e outras plataformas para resolver os problemas mais rapidamente à medida que surgem.”
Os desenvolvimentos seguem o anúncio do Ofcom na segunda-feira de que havia lançado uma investigação formal sobre X sobre “relatórios profundamente preocupantes” de que Grok foi usado para criar e compartilhar imagens íntimas não consensuais e imagens sexualizadas de crianças que podem constituir material de abuso sexual infantil (CSAM).
A Malásia e a Indonésia bloquearam o acesso ao Grok no fim de semana passado, tornando-se os primeiros países do mundo a proibir a ferramenta de IA devido a preocupações de que pudesse ser usada para criar imagens pornográficas e não consensuais envolvendo mulheres e crianças, de acordo com a BBC News.
Se a investigação do Ofcom descobrir que X violou a lei, o regulador pode impor multas de até £ 18 milhões (US$ 24,2 milhões) ou 10% da receita mundial qualificada da empresa, o que for maior. Em casos graves de incumprimento contínuo, o Ofcom pode solicitar ordens judiciais para “medidas de interrupção dos negócios”, incluindo a exigência de que os fornecedores de serviços de Internet bloqueiem o acesso do Reino Unido à plataforma.
Desde que as obrigações da Lei de Segurança Online entraram em vigor há menos de um ano, o Ofcom lançou investigações em mais de 90 plataformas e emitiu seis multas por não conformidade.
