Um parlamentar trabalhista tomou medidas legais contra a empresa de IA de Elon Musk depois de dizer que sua ferramenta Grok ajudou um usuário a produzir fotos sexualizadas falsas dela, parte de uma onda de tais imagens que inundou X no início deste ano.
Jess Asato, deputada de Lowestoft, disse em janeiro que ver-se retratada pela ferramenta de IA usando um biquíni sem o seu consentimento era “violação”.
Em uma reclamação apresentada ao tribunal superior de Londres, Asato disse que xAI, o braço de IA do site de mídia social que desenvolve Grok, violou leis relacionadas à proteção de dados e ao uso indevido de informações privadas ao permitir que os usuários do site solicitassem que Grok criasse tais imagens, de acordo com o Financial Times.
Asato disse ao jornal que além de criar imagens dela de biquíni, Grok também produziu um vídeo “mostrando-a sendo clorofórmia e preparada para uma agressão sexual”.
Seu caso legal segue uma ação semelhante movida no estado de Nova York por Ashley St Clair, mãe de um dos filhos de Musk. Ela alegou que imagens explícitas dela também foram geradas por Grok, incluindo uma imagem em que ela era menor de idade.
A tentativa de Asato de processar a xAI pode se tornar um teste para o quanto essas ferramentas e seus criadores podem ser responsabilizados pelo que os usuários produzem com elas. Asato disse ao FT que as imagens dela foram geradas depois que ela condenou a criação de tais imagens sexualizadas não consensuais.
Ela disse: “Minha esperança é que isso reequilibre os direitos dos indivíduos em relação às grandes empresas de tecnologia que deveriam ter implementado salvaguardas antes de prejudicarem mulheres e crianças”.
Ravi Naik, o advogado que representa a Asato, disse ao jornal: “No fundo, este caso trata de um único princípio: que os desenvolvedores devem responder pela maneira como projetam e implantam suas ferramentas.
“Nosso caso é que… uma imagem que é sua, projetada para se parecer com você e (cujo) propósito é degradar você ou fazer com que você seja representado em condições diferentes, deve ser uma imagem sua. xAI diz o contrário.”
O governo do Reino Unido ameaçou tomar medidas contra X em janeiro, depois de Grok ter sido utilizado para produzir grandes quantidades de imagens sexualizadas baseadas em mulheres reais – e, em alguns casos, em crianças. O regulador da mídia, Ofcom, lançou um inquérito.
A empresa de Musk disse inicialmente que mudaria o sistema para permitir que apenas clientes pagantes no X produzissem tais imagens, algo condenado por Keir Starmer como “horrível”. Dias depois, X disse que impediu totalmente Grok de editar fotos de pessoas reais para mostrá-las em roupas reveladoras.
Downing Street, departamentos governamentais e muitos deputados permaneceram no X, apesar dos apelos para que abandonassem a aplicação, devido a imagens criadas por Grok e por causa da adesão de Musk às causas da extrema-direita no Reino Unido, e das suas previsões de violência política.
Grok estava entre as plataformas de IA que acusaram falsamente dois policiais de Hampshire de estarem envolvidos na prisão de Henry Nowak. Christi Hill, que serviu como policial por 12 anos, disse que foi forçada a fugir para um local seguro.
Numerosas postagens no X pediram que Hill e um policial do sexo masculino, também identificado erroneamente, fossem rastreados e presos ou, em alguns casos, enfrentassem violência.