Três Jane Does, duas menores de 18 anos, entraram ontem com uma ação judicial contra a xAI sobre a geração de material de abuso sexual infantil (CSAM) no Grok, a ferramenta de IA de Elon Musk.
“Como uma boneca de pano trazida à vida através das artes das trevas, esta criança pode ser manipulada em qualquer pose, por mais doentia, por mais fetichizada, por mais proibida que seja”, afirma a denúncia. Prossegue alegando que, embora outras empresas de IA reconheçam os perigos da IA e coloquem barreiras de proteção para evitar que predadores sexuais infantis as utilizem, “a xAI não o fez”.
VEJA TAMBÉM:
Artista adulto Siri Dahl doxxed por Grok: ‘Vá se foder, seu clanker nazista’
“Em vez disso, a xAI – e o seu fundador Elon Musk – viram uma oportunidade de negócio: uma oportunidade de lucrar com a predação sexual de pessoas reais, incluindo crianças”, afirma o processo, que é uma ação coletiva.
Em janeiro, o Mashable informou que a xAI admitiu que Grok gera imagens de “menores com roupas mínimas”. Um relatório do Center for Countering Digital Hate afirmou semanas depois que Grok foi capaz de criar cerca de três milhões de imagens sexualizadas, incluindo 23 mil de aparentes crianças, entre 29 de dezembro e 8 de janeiro.
Vários países, incluindo França, Reino Unido, Irlanda, Índia e Brasil, anunciaram que estão agora a investigar Grok. Nos Estados Unidos, a Califórnia também está investigando o chatbot. Agora, os processos judiciais começaram.
Velocidade da luz mashável
Este, apresentado em 16 de março, foi apresentado a um tribunal federal na Califórnia. Afirma que Jane Does, que mora no Tennessee, sofreu graves danos com a produção de CSAM da xAI.
Por volta de 6 de dezembro de 2025, Jane Doe 1 descobriu em uma mensagem anônima do Instagram que imagens dela foram geradas por alguém que ela conhece e divulgadas no Discord. A violação criou imagens de pelo menos 18 outras meninas, muitas das quais Jane Doe 1 reconheceu. Jane Doe 1 agora é adulta, mas era menor de idade nas fotos usadas dela, de acordo com o processo.
Então, por volta de 12 de fevereiro deste ano, Jane Does 2 e 3 foram notificadas pelas autoridades locais de que suas imagens foram usadas pela mesma comissão para gerar CSAM. Eles ainda são menores.
Outro processo contra xAI foi aberto no mesmo tribunal em 23 de janeiro. Outra Jane Doe, uma adulta, está processando devido a Grok “despir” uma imagem dela, deixando-a de biquíni.
Mashable entrou em contato com xAI para comentar.
