Uma em cada quatro pessoas pensa que não há nada de errado em criar e partilhar deepfakes sexuais, ou sente-se neutra em relação a isso, mesmo quando a pessoa retratada não consentiu, de acordo com um inquérito encomendado pela polícia.
As descobertas levaram um oficial superior da polícia a alertar que a utilização da IA está a acelerar uma epidemia de violência contra mulheres e raparigas (VAWG) e que as empresas tecnológicas são cúmplices deste abuso.
A pesquisa com 1.700 pessoas encomendada pelo gabinete do conselheiro científico-chefe da polícia revelou que 13% achavam que não havia nada de errado em criar e compartilhar deepfakes sexuais ou íntimos – conteúdo digitalmente alterado feito usando IA sem consentimento.
Outros 12% sentiram-se neutros quanto à aceitabilidade moral e legal de criar e compartilhar tais deepfakes.
A Det Ch Supt Claire Hammond, do centro nacional para a VCMR e protecção pública, lembrou ao público que “partilhar imagens íntimas de alguém sem o seu consentimento, sejam imagens reais ou não, é profundamente violador”.
Comentando as conclusões do inquérito, ela afirmou: “A ascensão da tecnologia de IA está a acelerar a epidemia de violência contra mulheres e raparigas em todo o mundo. As empresas tecnológicas são cúmplices deste abuso e tornaram a criação e partilha de material abusivo tão simples como clicar num botão, e têm de agir agora para o impedir”.
Ela pediu às vítimas de deepfakes que denunciassem quaisquer imagens à polícia. Hammond disse: “Este é um crime grave e nós o apoiaremos. Ninguém deveria sofrer em silêncio ou envergonhado”.
A criação de deepfakes sexualmente explícitos não consensuais é uma ofensa criminal sob a nova Lei de Dados.
O relatório, elaborado pela consultoria criminal e de justiça Crest Advisory, descobriu que 7% dos entrevistados foram retratados em um deepfake sexual ou íntimo. Destes, apenas 51% denunciaram à polícia. Entre aqueles que não contaram a ninguém, os motivos mais citados foram o constrangimento e a incerteza de que o crime seria tratado com seriedade.
Os dados também sugeriram que homens com menos de 45 anos provavelmente considerariam aceitável criar e compartilhar deepfakes. Este grupo também era mais propenso a ver pornografia online e concordar com pontos de vista misóginos, além de ter sentimentos positivos em relação à IA. Mas o relatório disse que esta associação de idade e género com tais opiniões era fraca e apelou a mais investigação para explorar esta aparente associação.
Um em cada 20 entrevistados admitiu ter criado deepfakes no passado. Mais de um em cada dez disse que criaria um no futuro. E dois terços dos entrevistados disseram ter visto, ou poderiam ter visto, um deepfake.
A autora do relatório, Callyane Desroches, chefe de política e estratégia da Crest Advisory, alertou que a criação de deepfakes estava “se tornando cada vez mais normalizada à medida que a tecnologia para torná-los se torna mais barata e mais acessível”.
Ela acrescentou: “Embora alguns conteúdos deepfake possam parecer inofensivos, a grande maioria do conteúdo de vídeo é sexualizado – e as mulheres são esmagadoramente os alvos.
“Estamos profundamente preocupados com o que a nossa investigação destacou – que existe um grupo de jovens que assistem ativamente à pornografia e têm opiniões que se alinham com a misoginia e que não vêem mal nenhum em ver, criar e partilhar deepfakes sexuais de pessoas sem o seu consentimento.”
Cally Jane Beech, uma ativista que faz campanha por uma melhor proteção para as vítimas de abuso de deepfake, disse: “Vivemos em tempos muito preocupantes, o futuro das nossas filhas (e filhos) está em jogo se não começarmos a tomar medidas decisivas no espaço digital em breve.
Ela acrescentou: “Estamos olhando para toda uma geração de crianças que cresceram sem salvaguardas, leis ou regras em vigor sobre isso, e agora estão vendo o efeito negativo dessa liberdade.
“Parar com isso começa em casa. A educação e a conversa aberta precisam ser reforçadas todos os dias, se algum dia tivermos a chance de acabar com isso.”
