Para Patrizia Schlosser, tudo começou com um telefonema de desculpas de um colega. “Sinto muito, mas encontrei isso. Você está ciente disso?” Ele enviou um link que a levou a um site chamado Mr DeepFakes. Lá, ela encontrou imagens falsas de si mesma, nua, agachada, acorrentada, praticando atos sexuais com diversos animais. Eles foram marcados como “Patrizia Schlosser vadia do FUNK” (sic).
“Eles foram muito gráficos, muito humilhantes”, diz Schlosser, jornalista alemão da Norddeutscher Rundfunk (NDR) e da Funk. “Eles também foram muito mal feitos, o que tornou mais fácil me distanciar e dizer a mim mesmo que eram obviamente falsos. Mas foi muito perturbador imaginar alguém em algum lugar passando horas na internet procurando fotos minhas, juntando tudo isso.”
O site era novo para Schlosser, apesar de suas investigações anteriores sobre a indústria pornográfica. “Eu nunca tinha ouvido falar do Mr DeepFakes – um site pornô inteiramente dedicado a vídeos e fotos pornográficas falsas. Fiquei surpreso com o quão grande ele era – tantos vídeos de todas as celebridades que você conhece.” A primeira reação de Schlosser ao se ver entre eles foi deixar isso de lado. “Tentei deixar isso de lado, o que foi na verdade uma estratégia para não lidar com isso”, diz ela. “Mas é estranho como o cérebro funciona. Você sabe que é falso, mas ainda assim vê. Não é você, mas também é você. Aí está você com um cachorro e uma corrente. Você se sente violado, mas confuso. Em algum momento, decidi: ‘Não. Estou com raiva. Não quero essas imagens por aí.'”
O documentário subsequente de Schlosser para o programa STRG_F da NDR conseguiu remover as imagens. Ela também localizou o jovem que os criou e postou – até mesmo visitando sua casa e conversando com sua mãe. (O próprio perpetrador não saía de seu quarto.) No entanto, Schlosser não conseguiu identificar o “Sr. DeepFakes” – ou quem estava por trás do site, apesar de contar com a ajuda do Bellingcat, o coletivo de jornalismo investigativo online. Ross Higgins do Bellingcat estava na equipe. “Minha experiência é investigar lavagem de dinheiro”, diz ele. “Olhei para a estrutura do site e ele usava os mesmos provedores de serviços de Internet (ISPs) que os verdadeiros criminosos organizados sérios.” Os ISPs sugeriram ligações com o grupo mercenário russo Wagner e com indivíduos citados nos Panama Papers. Os anúncios veiculados incluíam aplicativos de propriedade de empresas de tecnologia chinesas, o que permitia ao governo da China acesso a todos os dados dos clientes. “Presumi que tudo isso era sofisticado demais para ser um site para amadores”, diz Higgins.
Acontece que era exatamente isso.
Qualquer pessoa que queira criar deepfakes de alguém que conhece pode encontrar alguém disposto a fazê-los sob encomenda
A história do Mr DeepFakes, o maior e mais notório site de pornografia deepfake não consensual do mundo, é na verdade a história da própria pornografia de IA – acredita-se que o próprio termo “deepfake” tenha vindo de seu criador. Sendo um “marco zero” para a pornografia gerada pela IA, as suas páginas – que foram vistas mais de 2 mil milhões de vezes – retrataram inúmeras celebridades femininas, políticas, princesas europeias, esposas e filhas de presidentes dos EUA, a serem raptadas, torturadas, rapadas, amarradas, mutiladas, violadas e estranguladas. Mas todo esse conteúdo (que levaria mais de 200 dias para ser visualizado) era apenas a “vitrine” do site. O seu verdadeiro coração, a sua “sala de máquinas”, era o seu fórum. Aqui, qualquer pessoa que queira criar deepfakes de alguém que conhece (uma namorada, irmã, colega de classe ou colega) pode encontrar alguém disposto a fazê-los sob encomenda pelo preço certo. Foi também um “campo de treinamento”, um centro técnico onde “amadores” se ensinavam, compartilhavam dicas, publicavam trabalhos acadêmicos e “resolviam problemas”. (Um problema recorrente era como fazer deepfake sem um bom “conjunto de dados”. Isso significa que quando você está tentando fazer deepfake com alguém de quem não tem muitas fotos – portanto, não uma celebridade, mas talvez alguém que você conhece de cujas mídias sociais você capturou a tela.)
A cineasta e ativista Sophie Compton passou muitas horas monitorando Mr DeepFakes enquanto pesquisava o premiado documentário de 2023, Another Body (disponível no iPlayer). “Olhando para trás, acho que aquele site desempenhou um papel fundamental na proliferação de deepfakes em geral”, diz ela. “Eu realmente acho que existe um mundo em que o site não foi criado, não foi autorizado a ser criado ou foi fechado rapidamente, e a pornografia deepfake é apenas uma fração do problema que temos hoje. Sem esse site, não acho que teria explodido da maneira que explodiu.”
Na verdade, esse cenário era inteiramente possível. As origens do Sr. Deepfakes remontam a 2017-18, quando a pornografia de IA estava apenas começando a crescer em sites de mídia social como o Reddit. Um Redditor anônimo e “pioneiro” da pornografia de IA que atendia pelo nome de “deepfakes” (e, portanto, é creditado por cunhar o termo) deu uma entrevista inicial ao Vice sobre seu potencial. Pouco depois, porém, no início de 2018, o Reddit baniu pornografia deepfake de seu site. “Tínhamos capturas de tela de seus fóruns naquela época e a comunidade deepfake, que era pequena, estava enlouquecendo e abandonando o barco”, diz Compton. Foi quando o Mr DeepFakes foi criado, com o antigo nome de domínio dpfks.com. O administrador tinha o mesmo nome de usuário – dpfks – e foi a pessoa que anunciou voluntários para trabalhar como moderadores e postou regras e diretrizes, bem como vídeos deepfake e um guia detalhado sobre como usar software para pornografia deepfake.
“O que é tão deprimente em ler as mensagens e ver a génese é perceber quão facilmente os governos poderiam ter impedido isto”, diz Compton. “As pessoas que fizeram isso não acreditavam que teriam liberdade total. Elas diziam: ‘Eles estão vindo atrás de nós!’, ‘Eles nunca vão nos deixar fazer isso!’ Mas como eles continuaram sem nenhum problema, você vê esse encorajamento crescente. A Covid aumentou a explosão quando todos pararam de moderar o conteúdo. O resultado foi violento – tratava-se de degradar alguém completamente. As celebridades que eram realmente populares eram muitas vezes muito jovens – Emma Watson, Billie Eilish, Millie Bobby Brown.” (Greta Thunberg é outro exemplo aqui.)
Quem estava por trás disso? De vez em quando, o Sr. DeepFakes dava entrevistas anônimas. Em um documentário da BBC de 2022, Deepfake Porn: Could You Be Next?, o “proprietário” e “desenvolvedor web” do site, usando o pseudônimo “deepfakes”, argumentou que o consentimento das mulheres não era exigido porque “é uma fantasia, não é real”.
O dinheiro era sua motivação? DeepFakes veiculou anúncios e teve uma assinatura premium paga em criptomoeda – em 2020, um fórum menciona que ganhou entre US$ 4.000 e US$ 7.000 por mês. “Havia um aspecto comercial”, diz Higgins. “Foi uma agitação lateral, mas foi mais do que isso. Deu notoriedade.”
A certa altura, o site “publicou 6.000 fotos de AOC (da política norte-americana Alexandria Ocasio-Cortez) rosto para que as pessoas pudessem fazer pornografia falsa com ela”, diz Higgins. “É uma loucura. (Havia) todos esses arquivos de YouTubers e políticos. O que está dizendo é que se você é uma mulher neste mundo, você só pode alcançar até certo ponto, porque se você colocar a cabeça acima do parapeito, se você tiver a ousadia de fazer qualquer coisa publicamente, você pode esperar que sua imagem seja usada da maneira mais degradante possível para lucro pessoal.
“O mais comovente para mim foi a linguagem usada sobre as mulheres naquele site”, continua ele. “Tivemos que mudar isso para o nosso relatório on-line porque não queríamos que isso fosse desencadeado, mas isso é pura misoginia. Puro ódio.”
Em abril deste ano, os investigadores começaram a acreditar que haviam encontrado o Sr. DeepFakes e enviado e-mails ao suspeito.
Em 4 de maio, o Sr. DeepFakes fechou. Um aviso em sua página inicial culpou a “perda de dados” causada pela retirada de um “provedor de serviços críticos”. “Não iremos relançar”, continuou. “Qualquer site que alegue isso é falso. Este domínio irá eventualmente expirar e não somos responsáveis pelo uso futuro. Esta mensagem será removida em cerca de uma semana.”
Mr DeepFakes acabou – mas de acordo com Compton, isso poderia ter acontecido muito antes. “Todos os sinais estavam lá”, diz ela. No ano anterior, em abril de 2024, quando o governo do Reino Unido anunciou planos para criminalizar a criação e compartilhamento de material deepfake de abuso sexual, o Sr. DeepFakes respondeu bloqueando imediatamente o acesso a usuários do Reino Unido. (Os planos foram posteriormente arquivados quando as eleições de 2024 foram convocadas.) “Isso mostrou que o ‘Sr. DeepFakes’ obviamente não estava tão comprometido a ponto de não haver nada que os governos pudessem fazer”, diz Compton. “Se fosse muito chato e arriscado administrar o site, eles não se importariam.”
Mas a pornografia deepfake tornou-se tão popular, tão popular, que não requer mais um “acampamento base”. “As coisas que esses caras se orgulhavam de aprender a fazer e ensinar aos outros agora estão tão incorporadas que podem ser acessadas por qualquer pessoa em aplicativos com um clique de botão”, diz Compton.
E para aqueles que desejam algo mais complexo, os criadores, os autoproclamados especialistas que antes espreitavam o fórum, agora estão por aí em busca de negócios. Patrizia Schlosser sabe disso com certeza. “Como parte da minha pesquisa, me disfarcei e entrei em contato com algumas pessoas nos fóruns, pedindo uma falsificação profunda de uma ex-namorada”, diz Schlosser. “Embora muitas vezes se afirme que o site era apenas sobre celebridades, isso não era verdade. A resposta foi: ‘Sim, claro…’
“Depois que o Sr. DeepFakes foi encerrado, recebi um e-mail automático de um deles que dizia: “Se você quiser fazer alguma coisa, me avise… O Sr. DeepFakes está fora do ar – mas é claro, continuamos trabalhando”.
No Reino Unido e na Irlanda, os samaritanos podem ser contatados pelo telefone gratuito 116 123 ou pelo e-mail jo@samaritans.org ou jo@samaritans.ie. Nos EUA, você pode ligar ou enviar uma mensagem de texto para 988 Suicide & Crisis Lifeline em 988 ou conversar em 988lifeline.org. Na Austrália, o serviço de apoio a crises Lifeline é 13 11 14. Outras linhas de apoio internacionais podem ser encontradas em befrienders.org
No Reino Unido, a Rape Crisis oferece apoio à violação e ao abuso sexual através do número 0808 802 9999 em Inglaterra e País de Gales, 0808 801 0302 na Escócia ou 0800 0246 991 na Irlanda do Norte. Nos EUA, Rainn oferece suporte pelo telefone 800-656-4673. Na Austrália, o suporte está disponível em 1800Respect (1800 737 732). Outras linhas de apoio internacionais podem ser encontradas em ibiblio.org/rcip/internl.html
