O X de Elon Musk moveu os recursos de edição de imagens em seu chatbot Grok AI para trás de um acesso pago após a condenação generalizada sobre o uso da ferramenta na criação de deepfakes sexuais não consensuais, enquanto o governo britânico pediu aos reguladores que considerassem banir totalmente a plataforma, de acordo com a BBC News.
Desde a manhã de sexta-feira, Grok tem exibido uma notificação aos usuários que tentam manipulação de imagens afirmando que “a geração e edição de imagens estão atualmente limitadas a assinantes pagantes” com um convite para “assinar para desbloquear esses recursos”, informou a BBC News. A restrição exige que os usuários forneçam informações de identificação e pagamento para acessar os recursos, e apenas titulares de contas verificadas com marca de seleção azul podem editar imagens com sucesso na plataforma de mídia social.
Os usuários gratuitos ainda podem acessar a funcionalidade de edição de imagens do Grok por meio do aplicativo e site separados da ferramenta de IA.
A implementação do acesso pago segue-se a uma reação intensa depois que o chatbot atendeu às solicitações para remover digitalmente as roupas das fotografias sem o consentimento dos participantes. Os alvos dessas alterações descreveram sentir-se “humilhados” e “desumanizados” para a BBC News.
O governo britânico aumentou simultaneamente a pressão sobre X, instando o regulador de mídia Ofcom a exercer todos os seus poderes de aplicação das preocupações sobre imagens ilegais geradas por IA na plataforma.
Fontes governamentais disseram à BBC News: “Esperamos que o Ofcom use todos os poderes à sua disposição em relação a Grok e X.”
O primeiro-ministro, Sir Keir Starmer, fez duras críticas durante uma entrevista à Greatest Hits Radio, particularmente no que diz respeito à criação de imagens explícitas representando adultos e menores. “Isso é vergonhoso. É nojento. E não deve ser tolerado”, disse Starmer, segundo a BBC News. “É ilegal. Não vamos tolerar isso. Pedi que todas as opções estivessem sobre a mesa.”
Starmer enfatizou que o Ofcom recebeu “total apoio” do governo para ações de fiscalização.
A agência reguladora disse na segunda-feira que entrou em contato urgentemente com X e xAI, desenvolvedor de Grok, e confirmou à BBC News que iniciou uma investigação. Ofcom agora tem autoridade sob a Lei de Segurança Online para solicitar aos tribunais ordens que cortariam o acesso de X aos usuários britânicos e aos fluxos de receita, incluindo receitas de publicidade e pagamentos de usuários.
Embora tal intervenção normalmente siga um longo processo de investigação, a lei permite uma acção rápida quando as situações envolvem ameaças graves ao bem-estar público, perigo para as crianças ou padrões documentados de desafio regulamentar. A Ofcom implantou essas autoridades da Lei de Segurança Online em apenas seis ocasiões anteriores, de acordo com a BBC News.
A lei britânica proíbe atualmente a distribuição de imagens falsas representando adultos.
X emitiu anteriormente um comunicado dizendo: “Qualquer pessoa que use ou incentive Grok a criar conteúdo ilegal sofrerá as mesmas consequências que se carregasse conteúdo ilegal”, informou a BBC News.
A Ofcom está atualmente recrutando um novo presidente que terá a tarefa de adotar estratégias de supervisão mais vigorosas à medida que aumentam as preocupações com tecnologias emergentes e estruturas de propriedade de plataforma, de acordo com a BBC News. A Lei de Segurança Online chamou a atenção da administração Trump sobre o seu impacto potencial nas empresas de tecnologia americanas.
A Variety abordou X para comentar.
