Dmtos depois de a Malásia ter ganhado as manchetes globais ao anunciar que iria banir temporariamente Grok devido à sua capacidade de gerar “imagens manipuladas grosseiramente ofensivas e não consensuais”, a ferramenta generativa de IA conversava tranquilamente com contas registadas no país.
“Ainda aqui! Esse bloqueio de DNS na Malásia é bastante leve – fácil de contornar com uma VPN ou ajuste de DNS”, disse a conta de Grok no X em resposta a uma pergunta de um usuário.
A capacidade da Grok de permitir que os utilizadores criem imagens sexualmente explícitas, incluindo imagens de crianças, criou um protesto global nas últimas semanas, com reguladores e políticos de todo o mundo a lançar investigações. A Indonésia e a Malásia tornaram-se os dois primeiros países a anunciar bloqueios à tecnologia, com o órgão regulador da Malásia a afirmar no domingo passado que tinha “dirigido uma restrição temporária” ao acesso ao Grok, com efeitos a partir de 11 de janeiro de 2026. Autoridades nas Filipinas disseram que também planeiam proibir a tecnologia.
No entanto, bloquear o acesso ao Grok não é simples. A tecnologia não existe apenas em múltiplas plataformas, incluindo um aplicativo e site independentes, mas também está integrada no X, que, junto com Grok, é propriedade da xAI de Elon Musk.
O grupo de protesto Everyone Hates Elon anuncia um boicote ao X em Londres. Fotografia: Chris J Ratcliffe/Reuters
Na semana passada, os usuários do X, e até mesmo o próprio Grok, aconselharam as pessoas sobre como contornar as restrições. Isso inclui o uso de uma VPN – muitas das quais estão disponíveis gratuitamente – ou a alteração do sistema de nomes de domínio (DNS), o protocolo na Internet que transforma nomes de endereços em endereços IP que carregam sites.
Quando o Guardian tentou usar o Grok na Indonésia, seu site funcionava mesmo sem VPN, embora o aplicativo Grok não funcionasse. Grok também ainda respondia às contas indonésias no X, onde funciona como um chatbot integrado. X não foi banido.
Mesmo que os governos pudessem restringir completamente Grok, esta não é uma solução real, disse Nana Nwachukwu, especialista em governação de IA e investigadora doutorada no Trinity College Dublin.
“Bloquear Grok é como colocar um band-aid em uma ferida que você não limpou”, disse ela. “Você bloqueia Grok e depois sai por aí gritando que fez alguma coisa. Enquanto isso, as pessoas podem usar VPNs para acessar as mesmas plataformas.” Ou poderiam simplesmente recorrer a uma das muitas outras plataformas que oferecem as mesmas funções, incluindo “sistemas de IA mais pequenos e de uso geral que são em grande parte desconhecidos”, acrescentou Nwachukwu.
Os governos deveriam, em vez disso, concentrar-se na aplicação da lei e na investigação de indivíduos que utilizam tais ferramentas para infringir a lei, acrescentou ela. “As plataformas são obrigadas por lei a fornecer informações às autoridades quando um crime é cometido”, disse Nwachukwu. “Se virmos pessoas sendo presas, pessoas sendo julgadas em tribunais, pessoas sendo presas por esses crimes, isso é um sinal de que se trata de um crime real”, afirmou.
X deveria incorporar responsabilidade em sua plataforma – e se limpar, disse Nwachukwu: “Todas essas imagens ofensivas deveriam ser removidas da plataforma”.
Na quarta-feira, X anunciou salvaguardas adicionais em resposta à contínua indignação pública, dizendo que impediria a conta @Grok no X de “permitir a edição de imagens de pessoas reais em roupas reveladoras como biquínis”, incluindo assinantes pagos. No entanto, o Guardian descobriu que era possível contornar tais restrições utilizando a versão autónoma do Grok, facilmente acessível através de um navegador web, para criar pequenos vídeos em que as roupas são retiradas de imagens de mulheres reais.
Isso poderia então ser postado na plataforma pública do X, onde poderia ser visto por usuários de todo o mundo em segundos.
A empresa de Musk também disse que, em jurisdições onde tal conteúdo é ilegal, bloqueará geograficamente a capacidade de todos os usuários nesses locais de gerar imagens de pessoas reais em biquínis, ou trajes semelhantes, no Grok on X, acrescentando que “xAI está implementando medidas de bloqueio geográfico semelhantes para o aplicativo Grok”.
Especialistas alertam que os usuários ainda poderão contornar esses “geoblocks” por meio de uma VPN. Também não está claro em quais países tais restrições serão implementadas.
Na Malásia, o ministro das comunicações, Fahmi Fadzil, disse que as restrições ao Grok só seriam levantadas quando a capacidade de produzir conteúdos nocivos fosse desactivada, de acordo com relatos dos meios de comunicação locais.
Nuurrianti Jalli, pesquisador visitante do programa de mídia, tecnologia e sociedade do ISEAS – Instituto Yusof Ishak, disse que a ameaça de bloquear Grok pode ser uma forma útil de pressionar as empresas para que respondam rapidamente, acrescentando que “muda o debate de ‘maus atores individuais’ para questões de responsabilidade da plataforma, segurança desde o design e responsabilização quando as salvaguardas falham”, disse ela. Também pode “retardar a propagação do abuso, reduzir o uso indevido casual e criar um limite claro em torno do que as autoridades consideram inaceitável”.
Na Indonésia, o Grok tem sido utilizado para criar imagens sexualizadas não consensuais de cantoras e celebridades, incluindo um dos grupos femininos mais populares do país, JKT48, enquanto na Malásia, mulheres denunciam abusos semelhantes, incluindo casos em que a ferramenta foi utilizada para remover os seus hijabs, segundo a comunicação social malaia.
Algumas mulheres recorreram a dizer publicamente ao Grok no X que não o autorizam a “rastrear, tirar, processar ou editar” nenhuma de suas fotos.
Nuurrianti disse que os governos deveriam pressionar por maior transparência “sobre como as medidas de segurança são implementadas, como as denúncias de abuso são tratadas e quais medidas de fiscalização são tomadas quando conteúdo prejudicial é gerado ou circulado”.
A comissão de comunicações e multimídia da Malásia e o ministério das comunicações não responderam a um pedido de comentários. O ministério da comunicação e assuntos digitais da Indonésia também não respondeu.
Nwachukwu disse que as salvaguardas deveriam ser incorporadas ao sistema de IA, em vez de “portões” construídos em torno dele. “Tanto a restrição (geográfica) de X, (e) a restrição do governo é de acesso fechado, e os portões podem ser quebrados”, disse ela.
Relatórios adicionais de Hidayatullah
