A Comissão Europeia lançou uma investigação sobre o X de Elon Musk sobre a produção de imagens sexualmente explícitas e a divulgação de possível material de abuso sexual infantil pelo recurso de chatbot de IA da plataforma, Grok.
A investigação formal, lançada na segunda-feira, também amplia uma investigação sobre os sistemas de recomendação do X, algoritmos que ajudam os usuários a descobrir novos conteúdos.
Grok provocou indignação internacional ao permitir que usuários tirassem digitalmente mulheres e crianças e as colocassem em poses provocantes. A Grok AI gerou cerca de 3 milhões de imagens sexualizadas em menos de duas semanas, incluindo 23 mil que pareciam retratar crianças, de acordo com pesquisadores do Center for Countering Digital Hate.
A comissão disse que a sua nova investigação iria “avaliar se a empresa avaliou e mitigou adequadamente os riscos” decorrentes das funcionalidades da Grok na UE, incluindo riscos sobre a partilha de conteúdo ilegal, como imagens sexualmente explícitas manipuladas e “conteúdo que pode constituir” material de abuso sexual infantil.
A investigação é lançada ao abrigo da Lei dos Serviços Digitais (DSA) da UE, uma legislação relativamente nova que se destina a proteger os utilizadores da Internet de uma vasta gama de danos.
Falando aos repórteres, um funcionário disse que a comissão não ficou convencida pelas medidas mitigadoras postas em prática por X para remediar o problema. As autoridades da UE estão a investigar se X possui sistemas para mitigar os riscos de forma adequada.
Ao anunciar a investigação, Henna Virkkunen, a principal autoridade da comissão para a soberania tecnológica, segurança e democracia, disse: “As falsificações sexuais não consensuais de mulheres e crianças são uma forma violenta e inaceitável de degradação. Com esta investigação, determinaremos se X cumpriu as suas obrigações legais ao abrigo do DSA, ou se tratou os direitos dos cidadãos europeus – incluindo os das mulheres e crianças – como danos colaterais do seu serviço”.
Regina Doherty, uma eurodeputada irlandesa, disse que acolheu favoravelmente a investigação formal. “Quando surgem relatórios credíveis sobre a utilização de sistemas de IA de formas que prejudicam mulheres e crianças, é essencial que a legislação da UE seja examinada e aplicada sem demora”, disse Doherty.
Em resposta à investigação, X forneceu um link para uma declaração publicada em 14 de janeiro: “Continuamos empenhados em tornar X uma plataforma segura para todos e continuamos a ter tolerância zero para quaisquer formas de exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado”.
