A União Europeia lançou uma investigação sobre o X de Elon Musk sobre os deepfakes sexualmente explícitos que foram gerados pelo seu chatbot de IA Grok.
A investigação da UE segue-se a uma investigação semelhante iniciada pelo órgão de vigilância do Reino Unido, Ofcom, no início deste mês. No Reino Unido, Musk enfrenta uma multa de até 10% da receita mundial de X ou £18 milhões, o que for maior, se for considerado que violou a lei. A Malásia e a Indonésia também bloquearam o acesso ao chatbot Grok AI devido a preocupações com deepfake.
A nova investigação da UE “avaliará se a empresa avaliou e mitigou adequadamente os riscos associados à implantação das funcionalidades da Grok no X na UE”, disse a UE num comunicado. O órgão disse que incluirá “riscos relacionados à disseminação de conteúdo ilegal na UE, como imagens sexualmente explícitas manipuladas, incluindo conteúdo que possa constituir material de abuso sexual infantil”.
“Deepfakes sexuais de mulheres e crianças são uma forma violenta e inaceitável de degradação”, disse Henna Virkkunen, vice-presidente executiva de soberania tecnológica, segurança e democracia. “Com esta investigação, determinaremos se X cumpriu as suas obrigações legais ao abrigo do DSA, ou se tratou os direitos dos cidadãos europeus – incluindo os das mulheres e crianças – como danos colaterais do seu serviço”, continuou Virkkunen.
O X de Musk já foi investigado pela UE devido às suas medidas contra conteúdos ilegais, como material terrorista, e foi multado em 120 milhões de euros. Em setembro passado, a Comissão Europeia também perseguiu Grok por gerar conteúdo antissemita.
