A startup de inteligência artificial de Elon Musk, xAI, processou um homem da Carolina do Sul preso no início deste ano sob a acusação de exploração sexual de menores, alegando que ele usou indevidamente o sistema de IA da empresa, Grok, para criar material de abuso sexual infantil.
A xAI alegou na ação, movida no tribunal federal do Texas na terça-feira, que Terry Harwood violou os termos de serviço da empresa. O caso é um dos primeiros movidos por uma empresa de IA contra um de seus usuários por supostamente usar um sistema de IA para gerar material de abuso sexual infantil.
Porta-vozes da xAI não responderam imediatamente a um pedido de comentário na quarta-feira. O processo da empresa contra Harwood ocorre após intenso escrutínio global da xAI sobre alegações de que Grok permitiu que usuários gerassem deepfakes sexualizados não consensuais ou vídeos de aparência realista fabricados por IA. As informações de contato de Harwood, que foi preso em fevereiro, não estavam disponíveis imediatamente.
pular a promoção do boletim informativo
Inscreva-se para TechScape
Um mergulho semanal em como a tecnologia está moldando nossas vidas
após a promoção do boletim informativo
A reclamação da xAI dizia que a empresa “aplica suas regras contra os infratores por meio de suspensões e encerramentos de contas e denunciando material suspeito de abuso sexual infantil ao Centro Nacional para Crianças Desaparecidas e Exploradas”.
xAI alegou que Harwood carregou imagens não sexuais de adultos e menores para Grok e tentou usar o sistema para gerar deepfakes sexualmente explícitos com base nelas. A denúncia também alegou que ele criou imagens sexuais não consensuais de adultos.
A empresa pediu ao tribunal uma quantia não especificada de indenização monetária e uma ordem judicial bloqueando permanentemente Harwood de usar Grok.
“As ações do réu foram um esquema calculado para transformar a ferramenta do Requerente em uma arma para fins criminais, expondo vítimas reais a danos profundos e duradouros, ao mesmo tempo em que expôs o Requerente a riscos legais significativos e danos à reputação”, disse xAI no processo.