Nas últimas duas semanas, X foi inundado com imagens de nudez manipuladas por IA, criadas pelo chatbot Grok AI. Um número alarmante de mulheres foi afectado pelos nus não consensuais, incluindo modelos e actrizes proeminentes, bem como figuras da imprensa, vítimas de crimes e até líderes mundiais.
Um artigo de pesquisa da Copyleaks de 31 de dezembro estimou que aproximadamente uma imagem era postada a cada minuto, mas testes posteriores encontraram muito mais. Uma amostra coletada de 5 a 6 de janeiro encontrou 6.700 por hora durante o período de 24 horas.
Mas embora figuras públicas de todo o mundo tenham criticado a escolha de divulgar o modelo sem salvaguardas, existem poucos mecanismos claros para os reguladores que esperam controlar o novo sistema de manipulação de imagens de Elon Musk. O resultado tornou-se uma lição dolorosa sobre os limites da regulamentação tecnológica – e um desafio prospectivo para os reguladores que esperam deixar a sua marca.
Não é novidade que a ação mais agressiva veio da Comissão Europeia, que na quinta-feira ordenou que a xAI retenha todos os documentos relacionados ao seu chatbot Grok. A medida não significa necessariamente que a comissão abriu uma nova investigação, mas é um precursor comum de tal ação. É particularmente ameaçador, dados os relatórios recentes da CNN que sugerem que Elon Musk pode ter intervindo pessoalmente para evitar que fossem colocadas salvaguardas nas imagens que poderiam ser geradas por Grok.
Não está claro se X fez alguma alteração técnica no modelo Grok, embora a guia de mídia pública da conta X de Grok tenha sido removida. Em comunicado, a empresa denunciou especificamente o uso de ferramentas de IA para produzir imagens sexuais infantis. “Qualquer pessoa que use ou incentive Grok a criar conteúdo ilegal sofrerá as mesmas consequências que sofreria se carregasse conteúdo ilegal”, postou a conta da X Safety em 3 de janeiro, ecoando um tweet anterior de Elon Musk.
Entretanto, os reguladores de todo o mundo emitiram avisos severos. O Ofcom do Reino Unido emitiu um comunicado na segunda-feira, dizendo que estava em contato com a xAI e “fará uma avaliação rápida para determinar se há possíveis problemas de conformidade que justifiquem investigação”. Numa entrevista de rádio na quinta-feira, o primeiro-ministro do Reino Unido, Keir Starmer, chamou o fenómeno de “vergonhoso” e “nojento”, dizendo “O Ofcom tem todo o nosso apoio para tomar medidas em relação a isto”.
Em uma postagem no LinkedIn, a comissária australiana de segurança eletrônica Julie Inman-Grant disse que seu escritório recebeu uma duplicação de reclamações relacionadas a Grok desde o final de 2025. Mas Inman-Grant não chegou a tomar medidas contra xAI, dizendo apenas: “Usaremos a gama de ferramentas regulatórias à nossa disposição para investigar e tomar as medidas apropriadas”.
Evento Techcrunch
São Francisco
|
13 a 15 de outubro de 2026
De longe, o maior mercado a ameaçar acção é a Índia, onde Grok foi objecto de uma queixa formal de um membro do Parlamento. Em janeiro, o regulador de comunicações da Índia, MeitY, ordenou que X abordasse a questão e apresentasse um relatório de “medidas tomadas” dentro de 72 horas – um prazo que foi posteriormente prorrogado por 48 horas. Embora um relatório tenha sido apresentado ao regulador em 7 de janeiro, não está claro se a MeitY ficará satisfeita com a resposta. Caso contrário, X poderá perder o seu estatuto de porto seguro na Índia, uma limitação potencialmente grave à sua capacidade de operar dentro do país.
