Aplicativos de “nudificação” da inteligência artificial que criam imagens sexuais de Deepfake de crianças devem ser imediatamente proibidas, em meio a crescentes medos entre as adolescentes de que elas poderiam ser vítimas, o comissário da Inglaterra para a Inglaterra está alertando.
As meninas disseram que estavam parando de postar imagens de si mesmas nas mídias sociais por medo de que as ferramentas generativas da IA pudessem ser usadas para remover digitalmente suas roupas ou sexualizá -las, de acordo com o relatório do Comissário sobre as ferramentas, aproveitando as experiências infantis. Embora seja ilegal criar ou compartilhar uma imagem sexualmente explícita de uma criança, a tecnologia que as permite permanecer legal, observou o relatório.
“Children have told me they are frightened by the very idea of this technology even being available, let alone used. The children are afraid that a stranger or a fellow student, even a close friend, could manipulate them using a smartphone to create a naked picture. These apps have no place within our society. Tools using deepfake technology to create naked images of children should not be legal and I’m calling on the government to take decisive action to ban them, instead of allowing them to go unchecked with extreme conseqüências do mundo real. “
De Souza pediu ao governo que introduza uma lei de IA que exigiria que os desenvolvedores de ferramentas genaies abordassem os riscos que seus produtos posam e lançariam sistemas eficazes para remover imagens sexualmente explícitas de deepfake de crianças. Isso deve ser sustentado pela formulação de políticas que reconhece o abuso sexual de Deepfake como uma forma de violência contra mulheres e meninas, ela sugeriu.
Enquanto isso, o relatório pede à Ofcom que a verificação de idade nos aplicativos de nudificação seja adequadamente aplicada e que as plataformas de mídia social evitem as ferramentas de DeepFake sexualmente explícitas promovidas a crianças, de acordo com a Lei de Segurança Online.
O relatório citou uma pesquisa de 2025 da Girlguiding, que descobriu que 26% dos entrevistados de 13 a 18 anos haviam visto uma imagem sexualmente explícita de uma celebridade, um amigo, um professor ou eles mesmos.
Muitas ferramentas de IA parecem trabalhar apenas em corpos femininos, que o relatório alertou está alimentando uma crescente cultura de misoginia.
Uma menina de 18 anos disse ao comissário: “A narrativa de Andrew Tate e influenciadores como esse … apoiada por uma indústria pornô bastante violenta e se tornando mais influente, está fazendo parecer que a IA é algo que você pode usar para que você possa sempre pressionar as pessoas a sair com você ou fazer atos sexuais com você”.
O relatório observou que existe uma ligação entre o abuso de Deepfake e a ideação suicida e o TEPT, por exemplo, no caso de Mia Janin, que morreu por suicídio em março de 2021.
De Souza escreveu no relatório que a nova tecnologia “confronta as crianças com conceitos que ainda não conseguem entender” e está mudando “em tal escala e velocidade que pode ser esmagador tentar entender o perigo que eles apresentam”.
Os advogados disseram ao The Guardian que estavam vendo isso refletido em um aumento nos casos de adolescentes serem presos por crimes sexuais porque não entenderam as consequências do que estavam fazendo, por exemplo, experimentando os deepfakes, estando em um bate -papo do WhatsApp, onde imagens explícitas estão circulando, ou olhando pornô com as crianças com a sua idade.
Danielle Reece-Greenhalgh, sócio do escritório de advocacia Corker Binning, especialista em ofensas sexuais e posse de imagens indecentes, disse que a lei estava “tentando acompanhar a explosão na tecnologia de DeepFake acessível”, que já estava apresentando “um problema enorme para a aplicação da lei tentar identificar e proteger as vítimas de abuso”.
Ela observou que as proibições de aplicativos “provavelmente provocavam debate em torno das liberdades da Internet” e poderiam ter um “impacto desproporcional nos jovens” que estavam brincando com o software de IA desconhecendo as consequências.
Reece-Greenhalgh said that although the criminal justice system tried to take a “commonsense view and avoid criminalising young people for crimes that resemble normal teenage behaviour … that might previously have happened behind a bike shed”, arrests could be traumatic experiences and have consequences at school or in the community, as well as longer-term repercussions such as needing to be declared on an Esta form to enter the US or showing up on an advanced DBS check.
Matt Hardcastle, sócio da Kingsley Napley, disse que havia um “campo minado para jovens on -line” em torno do acesso ao conteúdo sexual e violento ilegais. Ele disse que muitos pais não sabiam como era fácil para as crianças “acessarem coisas que as levam a um lugar escuro rapidamente”, por exemplo, aplicativos de nudificação.
“Eles estão olhando para isso através dos olhos de uma criança.” Eles estão olhando através dos olhos de uma criança. Eles não percebem que estão fazendo algo potencialmente ilegal e prejudicial para você e outras pessoas “, disse ele. Os cérebros das crianças ainda se desenvolvem. Eles têm uma abordagem completamente diferente da tomada de riscos”.
Marcus Johnstone, um advogado criminal especializado em crimes sexuais, disse que estava trabalhando com um “número cada vez maior de jovens” que foram atraídos por esses crimes. Os pais muitas vezes desconheciam o que estava acontecendo. Ele disse que os pais pensaram que estavam jogando enquanto seus filhos estavam trancados em seus quartos. “Eles geralmente são homens e mulheres jovens muito raras”. Esses crimes nem existiam antes da Internet. Agora, a maioria deles está comprometida on-line. Criou um fórum para as crianças se tornarem criminosas “.
Um porta -voz do governo disse:
“Criar, possuir ou distribuir material de abuso sexual infantil, incluindo imagens geradas pela IA, é abominável e ilegal. A Lei de Segurança Online requer plataformas de qualquer tamanho para excluir esse tipo de conteúdo ou face multas. O Reino Unido tornou-se a primeira nação no mundo que se abuso de adultos, que se aborda a criança em que a criança em que a pó de adultos é que a criança em que a pó de adultos é que a pó de adultos em que os respinadores de adultos se tornam que a criança em que os respinadores de adultos são os que se tornam os que se tornam os que se tornam os que se tornam a criança em que os adultos se tornam que a criança em que os respinadores de adultos se tornam que os abusos da criança em que a criação de adultos são os que se tornam os que se tornam os que se tornam os que se tornam os que se tornam os que se tornam os que se tornam os que se referentes a abuso de adultos. 801 0331. ChildHelp O abuso da linha direta 800-422-4453 está disponível nos EUA.
