Estão em andamento investigações sobre relatos de que fotos explícitas e falsas foram feitas usando rostos de estudantes do ensino médio em Sydney.
O ABC informou que as famílias alertaram a polícia ao saber que as fotos alteradas digitalmente estavam circulando online, depois que um aluno recebeu uma das imagens e contou à escola.
A Polícia de NSW confirmou que policiais na área de Ryde, a noroeste do CBD, estão investigando o relatório.
“Oficiais vinculados ao Comando da Área Policial de Ryde iniciaram uma investigação”, disse um porta-voz da polícia.
“As investigações estão em andamento e não há mais informações disponíveis neste momento.”
O Departamento de Educação disse que está trabalhando em estreita colaboração com a polícia e tomará medidas se for descoberto que algum aluno está por trás das imagens.
“Deepfakes apresentam novos riscos significativos para o bem-estar e a privacidade dos estudantes”, disse um porta-voz do departamento.
“A escola está trabalhando em estreita colaboração com a polícia neste assunto.
“Se for descoberto que algum aluno está envolvido neste comportamento, a escola tomará fortes medidas disciplinares.”
A ministra da Educação em exercício, Courtney Houssos, disse que o relatório era “profundamente preocupante”.
“Estes relatórios são profundamente preocupantes e a polícia está a investigar este assunto conforme apropriado. Espero que os responsáveis enfrentem as consequências apropriadas”, disse ela.
“Eu entendo que a escola tem apoio para os alunos afetados, bem como apoio para a comunidade escolar em geral.
“Como esta é uma investigação policial ativa, seria inapropriado comentar mais”.
No mês passado, o estado aprovou legislação para criminalizar o uso de inteligência artificial para criar imagens íntimas sem consentimento. (boonchai wedmakawand/Moment RF/Getty Images/CNN)
NSW endurece leis sobre deepfakes
No mês passado, NSW aprovou legislação para criminalizar o uso de inteligência artificial para criar imagens íntimas sem consentimento.
Agora é punível com até três anos de prisão.
Compartilhar essas imagens, mesmo que uma pessoa não as tenha criado, também pode levá-las à prisão pelo mesmo período de tempo.
As alterações também reprimiram a criação, gravação e compartilhamento de áudio sexualmente explícito que seja real ou projetado para soar como uma pessoa real.
O procurador-geral Michael Daley disse que as leis protegeriam melhor as pessoas, especialmente as mulheres jovens, do abuso baseado na imagem.
“Este projeto de lei preenche uma lacuna na legislação de NSW que deixa as mulheres vulneráveis à exploração sexual gerada pela IA”, disse ele na altura.
“Estamos garantindo que qualquer pessoa que procure humilhar, intimidar ou degradar alguém usando IA possa ser processada.”
Procurador-Geral de NSW, Michael Daley. (Dion Georgopoulos/The Sydney Morning Herald)
‘Crise atual’ para escolas e estudantes
Deepfakes são fotos, vídeos ou gravações de voz alteradas digitalmente de alguém que foram editados para representá-los falsamente.
Ferramentas para criar deepfakes podem ser exploradas para criar imagens explícitas não consensuais e falsas de uma pessoa, sendo mulheres e meninas os alvos mais prováveis.
A comissária de eSafety, Julie Inman Grant, disse em junho que os deepfakes são uma “crise atual que afeta as comunidades escolares em toda a Austrália”.
“Os estudantes encontraram sua imagem representada em fotos ou vídeos falsos de nudez”, escreveu o comissário na época.
“Outros receberam conteúdo explícito de seus colegas gerado por IA. Comunidades escolares inteiras foram lançadas em turbulência – com famílias, educadores e alunos sem saber como responder.”
Inman Grant acrescentou que os deepfakes estão “cada vez mais em uso” entre os jovens.
Os leitores que buscam suporte podem entrar em contato com a Lifeline pelo telefone 13 11 14 ou além do azul pelo telefone 1300 22 4636.
Linha de apoio para crianças 1800 55 1800.
