A Índia ordenou que o X de Elon Musk fizesse mudanças técnicas e processuais imediatas em seu chatbot de IA Grok depois que usuários e legisladores sinalizaram a geração de conteúdo “obsceno”, incluindo imagens de mulheres alteradas por IA criadas usando a ferramenta.
Na sexta-feira, o ministério de TI da Índia emitiu a ordem orientando o X de Musk a tomar medidas corretivas em relação a Grok, incluindo a restrição da geração de conteúdo envolvendo “nudez, sexualização, material sexualmente explícito ou de outra forma ilegal”. O ministério também deu à plataforma de mídia social 72 horas para apresentar um relatório sobre as ações tomadas detalhando as medidas tomadas para impedir a hospedagem ou disseminação de conteúdo considerado “obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo ou de outra forma proibido por lei”.
A ordem, revisada pelo TechCrunch, alertou que o não cumprimento poderia comprometer as proteções de “porto seguro” de X – imunidade legal de responsabilidade por conteúdo gerado pelo usuário sob a lei indiana.
A ação da Índia segue preocupações levantadas por usuários que compartilharam exemplos de Grok sendo solicitado a alterar imagens de indivíduos – principalmente mulheres – para fazê-los parecer que usavam biquínis, o que gerou uma reclamação formal da parlamentar indiana Priyanka Chaturvedi. Separadamente, relatórios recentes assinalaram casos em que o chatbot de IA gerou imagens sexualizadas envolvendo menores, um problema que X reconheceu na sexta-feira foi causado por falhas nas salvaguardas. Essas imagens foram posteriormente retiradas.
No entanto, as imagens geradas usando Grok que faziam as mulheres parecerem usar biquínis por meio de alteração de IA permaneciam acessíveis no X no momento da publicação, descobriu o TechCrunch.
A última ordem ocorre dias depois de o Ministério de TI da Índia emitir um comunicado mais amplo na segunda-feira, que também foi revisado pelo TechCrunch, para plataformas de mídia social, lembrando-lhes que o cumprimento das leis locais que regem conteúdo obsceno e sexualmente explícito é um pré-requisito para manter a imunidade legal de responsabilidade por material gerado pelo usuário. O comunicado instou as empresas a reforçarem as salvaguardas internas e alertou que o não cumprimento desta medida poderia provocar ações legais ao abrigo das leis criminais e de TI da Índia.
“Reitera-se que o não cumprimento dos requisitos acima será encarado com seriedade e poderá resultar em consequências jurídicas estritas contra a sua plataforma, seus responsáveis e os usuários da plataforma que violarem a lei, sem qualquer aviso prévio”, alertou o despacho.
Evento Techcrunch
São Francisco
|
13 a 15 de outubro de 2026
O governo indiano disse que o não cumprimento poderia levar a ações contra X de acordo com a lei de TI e os estatutos criminais da Índia.
A Índia, um dos maiores mercados digitais do mundo, emergiu como um caso de teste crítico para determinar até que ponto os governos estão dispostos a ir para responsabilizar as plataformas pelos conteúdos gerados pela IA. Qualquer reforço da fiscalização no país poderá ter efeitos em cascata para as empresas globais de tecnologia que operam em múltiplas jurisdições.
A ordem ocorre no momento em que Musk’s X continua a desafiar aspectos das regras de regulamentação de conteúdo da Índia no tribunal, argumentando que os poderes de remoção do governo federal correm o risco de serem excedidos, mesmo que a plataforma tenha cumprido a maioria das diretivas de bloqueio. Ao mesmo tempo, o Grok tem sido cada vez mais utilizado pelos utilizadores do X para verificação de factos em tempo real e comentários sobre eventos noticiosos, tornando os seus resultados mais visíveis – e mais politicamente sensíveis – do que os de ferramentas de IA autónomas.
X e xAI não responderam imediatamente aos pedidos de comentários sobre a ordem do governo indiano.
