Uma coalizão de organizações está pedindo ao governo dos EUA que rompa os laços com a xAI de Elon Musk, enquanto Grok enfrenta um escândalo de material de abuso sexual infantil (CSAM) e investigações internacionais.
Em uma carta aberta compartilhada exclusivamente com o TechCrunch, grupos de defesa como Public Citizen, Center for AI and Digital Policy e Consumer Federation of America pedem ao Office of Management and Budget (OMB) que desative o uso do chatbot Grok por agências federais à luz das preocupações com a segurança do usuário.
A xAI assinou um acordo com a Administração de Serviços Gerais dos EUA (GSA) no ano passado, oferecendo Grok a agências federais. Mais tarde, Grok negociou um contrato para oferecer serviços ao Departamento de Defesa e a funcionários do Pentágono, levantando preocupações de segurança. O Departamento de Saúde e Serviços Humanos também usa ativamente o Grok, de acordo com o TechCrunch.
Velocidade da luz mashável
VEJA TAMBÉM:
5 dos empregos de tecnologia de crescimento mais rápido em 2026
“Nossa principal preocupação é que Grok tem demonstrado consistentemente ser um modelo de linguagem grande e inseguro”, disse um dos autores da carta, JB Branch, ao TechCrunch. “Mas também há uma história profunda de Grok tendo uma variedade de colapsos, incluindo discursos anti-semitas, discursos sexistas, imagens sexualizadas de mulheres e crianças.” A coligação escreveu cartas semelhantes expressando preocupação com Grok no passado e exige que o OMB investigue as falhas de segurança de Grok.
Durante o último mês, líderes estrangeiros e nacionais apelaram à xAI para implementar salvaguardas mais fortes ou correm o risco de enfrentar proibições generalizadas, com a Índia, a França, o Reino Unido e a União Europeia a anunciarem investigações oficiais sobre o problema deepfake de Grok. O procurador-geral da Califórnia, Rob Bonta, posteriormente enviou uma carta de cessação e desistência à xAI, afirmando que a empresa estava violando as leis de decência pública da Califórnia e os novos regulamentos de IA.
A Indonésia, que já havia bloqueado o acesso ao Grok enquanto as autoridades do país aguardavam a resposta da xAI, suspendeu sua proibição temporária em 1º de fevereiro, citando uma carta enviada ao Ministério das Comunicações e Assuntos Digitais pela empresa de Musk. De acordo com a carta, a xAI implementou novas medidas de segurança destinadas a evitar novos usos indevidos. O ministério indonésio disse que continuará monitorando e testando as grades de segurança de Grok e restabelecerá a proibição se surgir mais conteúdo ilegal.
O chatbot foi acusado de não ter salvaguardas robustas que o impeçam de criar imagens íntimas não consensuais de pessoas reais e menores. De acordo com um relatório do Centro de Combate ao Ódio Digital (CCDH), Grok produziu cerca de 3 milhões de imagens sexualizadas, incluindo imagens de crianças, durante um período de 11 dias.
