O dilúvio de imagens de mulheres parcialmente vestidas – despidas pela ferramenta Grok AI – no X de Elon Musk levantou mais questões sobre a regulamentação da tecnologia. É legal produzir essas imagens sem o consentimento do sujeito? Eles deveriam ser retirados de X?
Só no Reino Unido há algumas dúvidas sobre as respostas a estas questões. A regulamentação das redes sociais é uma área emergente, e muito menos a tentativa de controlar a implantação da inteligência artificial. Existem leis em vigor para resolver o problema, como a Lei de Segurança Online, mas o governo ainda não introduziu medidas adicionais, como a proibição de aplicações de nudificação.
É ilegal postar imagens de pessoas parcialmente vestidas sem a sua permissão?
É crime compartilhar imagens íntimas de alguém sem o seu consentimento, de acordo com a Lei de Ofensas Sexuais da Inglaterra e do País de Gales, que inclui imagens criadas por IA. A lei explica o que constitui uma imagem íntima, incluindo praticar um “ato sexual”, fazer “algo que uma pessoa razoável consideraria sexual” e mostrar os órgãos genitais, nádegas ou seios expostos de uma pessoa.
Isso também inclui usar roupas íntimas ou roupas molhadas ou transparentes que exponham essas partes do corpo. No entanto, de acordo com Clare McGlynn, professora de direito na Universidade de Durham e especialista em regulamentação da pornografia, “apenas o aviso ‘biquíni’ não seria estritamente coberto” pela lei.
Existe uma ofensa sob a Lei de Segurança Online de postar mensagens contendo informações falsas com a intenção de causar “dano psicológico ou físico não trivial” ao destinatário.
Mudanças na lei tiveram impacto. Brandon Tyler, de Braintree, Essex, foi preso por cinco anos no ano passado por postar em um fórum online pornografia falsa de mulheres que ele conhecia.
E as empresas de tecnologia?
De acordo com a Lei de Segurança Online, que abrange todo o Reino Unido, as plataformas de mídia social devem agir contra o abuso de imagens íntimas. Devem avaliar o risco de aparecimento deste conteúdo, implementar sistemas que reduzam a probabilidade de esse conteúdo aparecer diante dos utilizadores e retirá-lo rapidamente quando tomarem conhecimento dele.
Se o órgão fiscalizador das comunicações do Reino Unido, Ofcom, considerar que X não cumpriu estes requisitos, poderá multar a plataforma em até 10% de sua receita global. O Ofcom fez “contato urgente” com X e sua controladora, xAI, para descobrir quais medidas foram tomadas para cumprir a lei. Como medida de último recurso, o Ofcom pode solicitar uma ordem judicial para proibir sites ou aplicativos no Reino Unido.
Grok, que como X é propriedade da xAi de Musk, também pode enfrentar censura. Após relatos de que foi usado para produzir pornografia adulta, o Ofcom deveria investigar se implementou procedimentos adequados de verificação de idade para garantir que menores de 18 anos não acessem a ferramenta para criar conteúdo extremo.
A nudificação de aplicativos e sites é ilegal no Reino Unido?
Atualmente, o que é ilegal é o compartilhamento de imagens íntimas não consensuais – um crime conhecido mais coloquialmente como postagem de “pornografia de vingança”.
O governo legislou para proibir a criação ou solicitar a criação de tais imagens ao abrigo da Lei de Dados (Utilização e Acesso) para Inglaterra e País de Gales. No entanto, esta lei ainda não está em vigor, impossibilitando a tomada de medidas coercivas contra qualquer indivíduo que crie ou solicite a criação de tais imagens.
Um porta-voz do governo disse: “Recusamo-nos a tolerar este comportamento degradante e prejudicial, razão pela qual também introduzimos legislação para proibir a sua criação sem consentimento”. Não está claro por que razão, seis meses após a aprovação da legislação, o governo ainda não a colocou em vigor.
Uma outra complicação é a questão de saber se as autoridades do Reino Unido terão jurisdição. Um delito deve ter uma “conexão substancial com esta jurisdição”; poderia haver dificuldades práticas no processo se o perpetrador estivesse baseado no exterior.
E se Grok tiver sido usado para produzir imagens de abuso sexual infantil?
A Internet Watch Foundation, um órgão de vigilância da segurança infantil, relatou usuários de um fórum da darkweb que se gabavam de usar o Grok para criar imagens indecentes de crianças. Analistas da IWF dizem que as imagens que viram constituem material de abuso sexual infantil de acordo com a lei do Reino Unido.
É um crime tirar, fazer, distribuir, possuir ou publicar uma fotografia ou pseudofotografia indecente – como uma imagem de IA – de um menor de 18 anos. De acordo com a orientação do Ofcom para plataformas de mídia social, “o conteúdo que retrata uma criança em poses eróticas sem atividade sexual deve ser considerado indecente” e uma imagem é indecente “quando a inferência é que a criança está… associada a algo sexualmente sugestivo”.
O que posso fazer se uma imagem minha for manipulada no X?
As imagens dos indivíduos são protegidas pelos regulamentos GDPR do Reino Unido. As pessoas têm o direito de solicitar que as imagens manipuladas sejam apagadas por X caso tenham sido compartilhadas na plataforma. A fotografia de um indivíduo conta como dado pessoal; quando uma plataforma processa esses dados, deve fazê-lo em conformidade com a lei, e a manipulação não consensual da imagem violará os regulamentos do GDPR.
Os indivíduos têm o direito de encaminhar uma reclamação para o Gabinete do Comissário de Informação se X não conseguir remover as imagens, porque isso pode ser uma violação da lei de proteção de dados do Reino Unido.
Um deepfake que retrata você falsamente de uma maneira que prejudica sua reputação pode ser motivo para uma reclamação por difamação – mas isso seria caro. Alternativamente, você pode entrar em contato com a Revenge Porn Helpline, uma organização financiada pelo governo que ajuda a remover rapidamente imagens íntimas não consensuais da Internet.
