A UE abriu a sua própria investigação sobre o chatbot Grok que gera material de abuso sexual infantil. Estima-se que Grok gerou 23.000 imagens CSAM em apenas 11 dias.
Apesar de vários apelos para que a Apple e o Google removam temporariamente o X e o Grok da App Store, nenhuma das empresas ainda o fez…
Grok gerou 23.000 imagens CSAM
Como a maioria dos outros chatbots de IA, o Grok da xAI é capaz de gerar imagens a partir de prompts de texto. Isso pode ser feito diretamente no aplicativo, na web ou por meio do X. Ao contrário de outros serviços, no entanto, o Grok tem proteções extremamente frouxas que o levaram a gerar imagens semi-nuas não consensuais de indivíduos reais, incluindo crianças.
O Engadget relata que uma estimativa sugere que Grok gerou cerca de 23.000 imagens CSAM em apenas 11 dias.
O Centro de Combate ao Ódio Digital (CCDH) publicou suas conclusões. A organização sem fins lucrativos britânica baseou as suas conclusões numa amostra aleatória de 20.000 imagens Grok de 29 de dezembro a 9 de janeiro. A CCDH extrapolou então uma estimativa mais ampla com base nos 4,6 milhões de imagens que Grok gerou durante esse período (…)
Durante um período de 11 dias, Grok gerou cerca de 3 milhões de imagens sexualizadas – incluindo cerca de 23 mil crianças.
Dito de outra forma, Grok gerou cerca de 190 imagens sexualizadas por minuto durante esse período de 11 dias. Entre elas, fazia uma imagem sexualizada de crianças uma vez a cada 41 segundos.
Inquérito da UE aberto
No início deste mês, três senadores dos EUA pediram ao CEO da Apple, Tim Cook, que removesse temporariamente X e Grok da App Store devido à “geração de conteúdo repugnante”. A empresa ainda não o fez.
Dois países bloquearam o aplicativo, com investigações já abertas na Califórnia e no Reino Unido. O Financial Times informa que a UE também abriu agora uma investigação.
A investigação, anunciada na segunda-feira sob a Lei de Serviços Digitais da UE, avaliará se a xAI tentou mitigar os riscos de implantação das ferramentas da Grok no X e a proliferação de conteúdo que “pode constituir material de abuso sexual infantil”.
“As falsificações sexuais não consensuais de mulheres e crianças são uma forma violenta e inaceitável de degradação”, disse a chefe de tecnologia da UE, Henna Virkkunen.
Se for constatado que a empresa violou o DSA, ela poderá ser multada em até 6% de sua receita global anual.
Foto de Logan Voss no Unsplash
FTC: Usamos links de afiliados automotivos para geração de renda. Mais.
