Estou com medo de que as crianças cresçam em um mundo onde qualquer um pode tirar uma foto delas e remover suas roupas digitalmente.
Eles crescem em um mundo onde qualquer um pode baixar os blocos de construção para desenvolver uma ferramenta de IA, que pode criar fotos nuas de pessoas reais.
Em breve, será ilegal usar esses blocos de construção dessa maneira, mas eles permanecerão à venda por algumas das maiores empresas de tecnologia, o que significa que elas ainda estão abertas a serem abusadas.
No início deste ano, publiquei pesquisas e observei a presença desses aplicativos que usam inteligência artificial generativa (GENAI) para criar imagens sexualmente explícitas por meio de instruções dos usuários.
O relatório revelou o submundo chocante de Deepfake: enfatizou que quase todas as falsificações profundas em circulação são de natureza pornográfica, e 99% delas têm meninas ou mulheres – geralmente porque os aplicativos são treinados especificamente para trabalhar em órgãos femininos.
Nos últimos quatro anos como comissária infantil, ouvi de um milhão de filhos sobre suas vidas, suas ambições e suas preocupações.
De todas as tendências preocupantes da atividade on -line, as crianças falaram comigo para ver pornografia hardcore em X para cosméticos e vapes anunciados a eles através do desenvolvimento de tiktok de aplicativos “nudificantes” para se tornarem ferramentas que ajudam a abusar e a exploração de crianças são talvez os mais sensoriais.
Quando uma menina de 16 anos me perguntou: ‘Você sabe qual é o propósito de Deepfake? Porque não vejo efeitos positivos. ‘
Foto: Dame Rachel de Souza, Comissário da Inglaterra da Inglaterra
Especialistas alertaram sobre “uma explosão maciça” em meninos – alguns a mais de 13 anos – usam programas de IA gratuitos para criar fotos nus animadas de outros alunos
“Os aplicativos de nudificação simplesmente não devem existir”, disse o comissário infantil da Inglaterra (imagem do arquivo)
Crianças, especialmente meninas, crescem e temem que um smartphone possa ser usado como uma maneira de manipulá -las.
As meninas dizem que tomam medidas para se manter seguro on -line da mesma maneira que esperávamos, na realidade, como não voltar para casa sozinha à noite.
Para os meninos, os riscos são diferentes, mas igualmente prejudiciais: os estudos identificaram comunidades on -line em meninos adolescentes que compartilham material perigoso é uma ameaça crescente à radicalização e ao extremismo.
O governo toma corretamente algumas medidas de boas -vindas para limitar os perigos da IA. Por meio de sua lei sobre crime e polícia, será ilegal manter, criar ou distribuir ferramentas de IA projetadas para criar abuso sexual contra crianças.
E a introdução da Lei de Segurança Online – e novos regulamentos da Ofcom para proteger as crianças – marca um momento para o otimismo que a mudança real é possível.
Mas o que as crianças me disseram, por suas próprias experiências, é que temos que ir muito mais longe e mais rápido.
Como os aplicativos de IA são desenvolvidos é secreto. Não há vigilância, nenhum teste para que eles possam ser usados para fins ilegais, nenhuma conta dos riscos não intencionais para os usuários mais jovens. Isso deve mudar.
Os aplicativos de nudificação simplesmente não devem existir. Não deve ser possível para um aplicativo gerar uma imagem sexual de uma criança, seja sua intenção projetada ou não.
As postagens no LinkedIn parecem até comercializar as “melhores” ferramentas de IA nudificantes
A tecnologia usada por essas ferramentas para criar imagens sexualmente explícitas é complexa. Ele foi projetado para distorcer a realidade, para consertar e fascinar o usuário – e confronta crianças com conceitos que elas ainda não conseguem entender.
Eu não deveria pedir ao governo que receba proteção para as crianças para impedir que esses blocos de construção sejam organizados dessa maneira.
Congratulo -me com a mudança para criminalizar os indivíduos para criar geradores de imagens para abuso sexual de crianças, mas exortam o governo a mover as ferramentas que permitiriam que os predadores criassem imagens sexualmente explícitas de DeepFake fora de alcance.
Para fazer isso, pedi ao governo para exigir empresas de tecnologia que fornecessem modelos de IA OpenSource – os blocos de construção das ferramentas de IA – para testar seus produtos para usar sua capacidade de atividades ilegais e prejudiciais.
Isso é tudo o que as crianças me disseram que querem. Eles ajudarão a parar imagens sexuais envolvendo crianças normalizadas.
E eles farão um esforço significativo para cumprir a admirável missão do governo de reduzir pela metade a violência contra mulheres e meninas, que são quase exclusivamente substâncias nessas profundidades sexuais.
Os danos às crianças online não são inevitáveis. Não podemos encolher os ombros na derrota e afirmar que é impossível remover os riscos do desenvolvimento da tecnologia.
Não podemos descartar esse hotel on -line em crescimento como um “problema da sala de aula” – como evidência da minha pesquisa por líderes da escola e da faculdade mostra que a maioria das pessoas já limita o uso telefônico: 90% das escolas secundárias superiores e 99,8% das escolas primárias.
Rachel de Souza disse que a Lei de Segurança Online “marca um momento para o otimismo de que a mudança real é possível”
Apesar dessas restrições, na mesma pesquisa de cerca de 19.000 líderes escolares, eles me disseram que a segurança on -line está entre os problemas mais prementes que as crianças enfrentam em suas comunidades.
Para eles, o acesso das crianças a telas em horas fora da escola é o mais preocupado. A educação é apenas parte da solução. O desafio começa em casa.
Não devemos colocar parentalidade em nossas escolas e professores.
Como pais, pode parecer impressionante tentar navegar pela mesma tecnologia que nossos filhos. Como executamos limites para coisas que se movem muito rapidamente para que seguamos?
Mas foi exatamente isso que as crianças me disseram que querem seus pais: restrições, regras e proteção de cair uma toca de coelho com rolamento.
Dois anos atrás, reuni adolescentes e jovens adultos para perguntar, se eles poderiam devolver o relógio, que conselho eles desejavam ter recebido antes de possuir um telefone.
Muitas vezes, esses jovens de 16 a 21 anos concordavam que todos haviam recebido um telefone muito jovem.
Eles também me disseram que desejaram que seus pais tivessem conversado com eles sobre as coisas que viram online – não apenas como um tempo, mas regularmente, abertamente e sem estigma.
No final deste ano, repetirei esse trabalho para produzir novas orientações para os pais – porque eles merecem se sentir confiantes ao estabelecer limites para o uso de telefone, mesmo quando estiver muito além de sua zona de conforto.
Quero que eles se sintam autorizados a tomar decisões para suas próprias famílias, se isso não permite que seus filhos tenham um telefone ativado pela Internet para jovens, mantenha os limites de tela quando estiverem em casa ou insistam em manter os telefones baixos e fora dos quartos durante a noite.
Os pais também merecem ter certeza de que as empresas por trás da tecnologia nas telas de nossos filhos desempenham seu papel.
No mês passado, novos regulamentos da Ofcom entraram em vigor, por meio da Lei de Segurança Online, o que significa que as empresas de tecnologia agora devem identificar e lidar com os riscos para as crianças em suas plataformas – ou conhecer as consequências.
Isso é devido a muito tempo, pois os desenvolvedores técnicos longos permitiram reverter os riscos para os riscos para os jovens usuários em suas plataformas – mesmo quando as crianças lhes dizem o que vêem.
Se esses regulamentos permanecerem eficazes e adequados para o futuro, eles devem acompanhar a nova tecnologia – nada pode ser muito difícil de lidar.
O governo tem a oportunidade de obter testes de produtos de IA contra atividades ilegais e prejudiciais no projeto de lei da IA, que exorto o governo a introduzir durante a próxima sessão parlamentar.
Isso, com razão, tornará as empresas de tecnologia responsáveis pelo uso de suas ferramentas para fins ilegais.
Devemos aos nossos filhos e às gerações de crianças que interromperão esses ferimentos.
Os aplicativos de nudificação nunca devem ser aceitos como apenas mais uma restrição à liberdade de nossos filhos, ou outro risco de seu poço mental.
Eles não têm valor em uma sociedade em que valorizamos a segurança e a santidade na infância ou na vida familiar.
