A empresa de IA de Elon Musk restringiu o polêmico recurso de geração de imagens de IA de Grok apenas para assinantes pagantes no X, depois que a ferramenta atraiu fortes críticas de todo o mundo por permitir que usuários gerassem imagens sexualizadas e nuas de mulheres e crianças.
Em respostas aos usuários na sexta-feira, Grok disse que apenas assinantes pagantes do X seriam capazes de gerar e editar imagens na plataforma. Notavelmente, esses limites não se aplicam ao aplicativo Grok, que, no momento da publicação, permitia que qualquer pessoa gerasse imagens sem ter que pagar por assinatura.
Inicialmente disponível para qualquer pessoa com limites diários, o recurso de geração de imagens do Grok permitia aos usuários fazer upload da foto de qualquer pessoa e pedir para editá-la ou gerar uma versão sexualizada ou nua. O que se seguiu foi uma verdadeira enxurrada de imagens sexualizadas não consensuais de crianças, atores, modelos e figuras proeminentes, atraindo a ira de várias nações.
X e Musk denunciaram publicamente o uso da ferramenta para produzir tais imagens, escrevendo que a empresa seguiria suas políticas contra a publicação de conteúdo ilegal na plataforma de mídia social. “Qualquer pessoa que use grok para criar conteúdo ilegal sofrerá as mesmas consequências que sofreria se carregasse conteúdo ilegal”, tuitou Musk na semana passada.
O Reino Unido, a União Europeia e a Índia denunciaram publicamente X e Grok por permitirem tal uso das suas capacidades. A UE pediu na quinta-feira à xAI que retenha toda a documentação relativa ao chatbot, e o ministério das comunicações da Índia ordenou na semana passada que X fizesse alterações imediatas para impedir que os recursos de geração de imagens fossem mal utilizados ou arriscassem suas proteções de porto seguro no país. O órgão de vigilância das comunicações do Reino Unido disse que também entrou em contato com a xAI sobre o assunto.
