Dois países bloquearam o aplicativo Grok depois que ele foi amplamente usado para gerar deepfakes não consensuais de quase nudez de mulheres e crianças. Um país terceiro está atualmente a realizar uma investigação.
Três senadores dos EUA pediram à Apple que removesse temporariamente X e Grok da App Store dos EUA devido à “geração de conteúdo doentio” e ainda estamos aguardando a resposta da empresa…
CSAM gerado por IA por Grok
A ferramenta Grok AI está disponível como um aplicativo independente e por meio do aplicativo X. Também está disponível na aba Grok no site do X.
Há evidências abundantes de Grok gerando deepfakes não consensuais e quase nus de indivíduos reais, tirando uma foto vestida e depois removendo digitalmente as roupas para substituí-las por um biquíni ou outra roupa reveladora. Ainda mais preocupante é que alguns desses deepfakes eram de crianças.
Embora as imagens de nudez sejam teoricamente bloqueadas pelo Grok, alguns usuários têm usado uma linguagem de prompt que contorna isso.
Na sexta-feira, três senadores dos EUA pediram à Apple que removesse temporariamente ambos os aplicativos da App Store, observando que as imagens não consensuais incluíam materiais de abuso sexual infantil (CSAM).
Os senadores Ron Wyden, Ed Markey e Ben Ray Luján escreveram uma carta aberta aos CEOs da Apple e do Google, pedindo a ambas as empresas que retirassem os aplicativos X e Grok “enquanto se aguarda uma investigação completa” da “geração em massa de imagens sexualizadas não consensuais de mulheres e crianças”.
A carta observa que o ex-CEO Elon Musk não agiu e contrasta a falta de ação da Apple e do Google com a rápida remoção do aplicativo ICEBlock a pedido da Casa Branca. A única resposta de Musk foi limitar a geração de imagens X a assinantes pagos, o que parece a ação mais cínica possível, mas o mesmo recurso está acessível a qualquer pessoa através da guia Grok no site e no aplicativo X.
Dois países bloqueiam o aplicativo Grok
A Associated Press relata que a Malásia e a Indonésia bloquearam o aplicativo em seus países.
Os reguladores dos dois países do Sudeste Asiático afirmaram que os controlos existentes não impediam a criação e difusão de conteúdos pornográficos falsos, especialmente envolvendo mulheres e menores. O governo da Indonésia bloqueou temporariamente o acesso a Grok no sábado, seguido pela Malásia no domingo.
O regulador de mídia britânico, Ofcom, também abriu uma investigação formal.
Tem havido relatos profundamente preocupantes sobre a conta do chatbot Grok AI no X sendo usada para criar e compartilhar imagens de pessoas nuas – o que pode constituir abuso de imagem íntima ou pornografia – e imagens sexualizadas de crianças que podem constituir material de abuso sexual infantil (…) O Ofcom decidiu abrir uma investigação formal para estabelecer se X não cumpriu as suas obrigações legais ao abrigo da Lei de Segurança Online.
Apple e Google ainda não responderam
No momento em que este artigo foi escrito, não houve resposta pública da Apple ou do Google, e os aplicativos permaneceram disponíveis em suas respectivas lojas de aplicativos nos EUA. Entramos em contato com a Apple para comentar e atualizaremos com qualquer resposta.
Foto: Melanie Wasser/Unsplash
FTC: Usamos links de afiliados automotivos para geração de renda. Mais.
