Em certos cantos da Internet, em feeds de notícias e algoritmos de nicho, uma estudante britânica gerada por IA emergiu como uma espécie de fenómeno.
O nome dela é Amelia, uma “garota gótica” de cabelos roxos que carrega orgulhosamente uma mini bandeira sindical e parece ter uma propensão ao racismo.
Se você não conhece Amelia, é provável que em breve encontre um meme viral ou outro inspirado nela no Facebook ou no X, onde sua reputação está crescendo.
Os vídeos de Amelia normalmente mostram-na caminhando por Londres, ou pela Câmara dos Comuns, declarando seu amor pela Inglaterra e alertando sobre os perigos dos “muçulmanos militantes” ou “migrantes do terceiro mundo”. Em um clipe, ela é criticada por um homem barbudo em traje islâmico por comer linguiça de porco.
A mensagem é bem ensaiada nas redes sociais de extrema direita, mas foi a invenção da IA de Amelia que a tornou infinitamente adaptável, criando uma tendência viral na Internet da qual qualquer pessoa com acesso a um chatbot convencional pode participar. Os usuários do X recorreram à sua ferramenta Grok AI para criar tantos memes de Amelia que agora ela está saindo de silos online de nicho.
As origens do personagem são irônicas, para dizer o mínimo. Uma das primeiras iterações de Amelia começou em um videogame contra-extremismo financiado pelo Ministério do Interior do Reino Unido e criado para impedir que jovens de 13 a 18 anos fossem atraídos pelo extremismo de extrema direita em Yorkshire.
Meme de extrema direita de Amelia gerado por IA – vídeo
Pathways: Navigating the Internet and Extremism é um jogo simples de formato de múltipla escolha com animação básica. Seus jogadores são levados em uma jornada como personagens de uma faculdade. Eles são convidados a tomar decisões em cenários que incluem baixar conteúdo potencialmente extremista ou se juntar a uma personagem de Amelia em um comício organizado por “um pequeno grupo político” que protesta contra as mudanças na sociedade e a “erosão dos valores britânicos”.
Certas escolhas resultam num encaminhamento ao abrigo do programa de prevenção contra o terrorismo do governo britânico.
No entanto, é uma subversão da personagem Amelia que explodiu nas redes sociais de uma forma que surpreendeu até os criadores do jogo original.
Entre a infinidade de iterações cada vez mais sofisticadas geradas por IA estão uma Amelia no estilo mangá, uma versão de Wallace e Gromit e encontros de “vida real” gerados por IA entre ela e os personagens do Padre Ted ou Harry Potter, acompanhados de linguagem racista e mensagens de extrema direita.
A análise fornecida ao Guardian pela Logically, uma empresa do Reino Unido que monitoriza a desinformação, indicou que uma conta anónima conhecida por disseminar habilmente mensagens de extrema-direita iniciou o meme Amelia no X, em 9 de janeiro, com uma publicação que já foi vista 1,4 milhões de vezes.
Desde então, o volume de “Ameliaposting” passou de uma média de 500 por dia, quando essa conta o apresentou ao mundo, para cerca de 10.000, a partir de 15 de janeiro, quando atingiu o público internacional. Na quarta-feira, atingiu 11.137 postagens somente no X.
Numa das reviravoltas mais surreais, surgiu uma criptomoeda Amelia, com os utilizadores das redes sociais a tentarem alavancar o seu valor no perfil crescente do meme. Na quarta-feira, Elon Musk retuitou uma conta X promovendo um token de criptomoeda Amelia.
“O que estamos vendo é a monetização do ódio”, disse Matteo Bergamini, fundador e CEO da Shout Out UK, uma empresa de treinamento em alfabetização política e midiática que criou o jogo original.
“Vimos grupos do Telegram trocando mensagens em chinês sobre a moeda meme e falando sobre como inflar artificialmente seu valor, então muito dinheiro está sendo ganho.”
A própria empresa tem sido alvo de uma enxurrada de mensagens de ódio, incluindo ameaças de morte que agora foram denunciadas à polícia.
Bergamini ressalta que a iniciativa original nunca foi concebida para ser um jogo independente. Em vez disso, pretendia-se que fosse utilizado nas salas de aula juntamente com um conjunto de recursos de ensino, um facto que ele diz que a cobertura e os comentários ignoraram.
“Infelizmente houve muita deturpação”, disse ele. “O jogo não afirma, por exemplo, que questionar a migração em massa seja inerentemente errado.”
Outros sugeriram que o tiro saiu pela culatra, principalmente ao escolher uma “garota gótica fofa” como personagem negativa, fazendo com que ela inadvertidamente se tornasse um foco de admiração. Mas Bergamini disse que o jogo – que utilizou o feedback de grupos focais com jovens e foi desenvolvido tendo em mente uma imagem de ameaça local específica – continuou a ser usado e o feedback das escolas e de outros foi positivo.
No entanto, a velocidade e sofisticação em torno da criação online de memes supostamente subversivos de Amelia o pegou de surpresa.
“Esta experiência mostrou-nos porque é que este trabalho é tão importante, mas também nos dá uma pausa para pensar sobre a nossa segurança na condução deste trabalho devido à coordenação altamente sofisticada daqueles que lucram com o ódio”, disse ele.
Siddharth Venkataramakrishnan, analista do Instituto para o Diálogo Estratégico (ISD), disse: “Vimos o meme ter uma propagação notável e proliferar entre a extrema direita e fora dela, mas o que também foi digno de nota é como agora é internacional.
“De certa forma, isso atinge o cerne do que poderíamos chamar de extrema-direita ‘dissidente’ – indivíduos que se posicionam fora da cena política dominante – sejam eles ‘posters de merda’ que apenas querem provocar, outros que estão em memes twee. Todo um ecossistema abraçou isso. Claramente, as imagens sexualizadas também são fundamentais para isso. O público-alvo é quase exclusivamente homens jovens.”
O Ministério do Interior disse que a Prevent desviou quase 6.000 pessoas de ideologias violentas. Acrescentou que projectos como o jogo Pathways foram concebidos para visar os riscos de radicalização local e foram criados e implementados independentemente do governo.
Guia rápido
Contate-nos sobre esta história
Mostrar
O melhor jornalismo de interesse público depende de relatos em primeira mão de pessoas bem informadas.
Se você tiver algo a compartilhar sobre este assunto, entre em contato conosco confidencialmente usando os seguintes métodos.
Mensagens seguras no aplicativo Guardian
O aplicativo Guardian possui uma ferramenta para enviar dicas sobre stories. As mensagens são criptografadas de ponta a ponta e ocultadas nas atividades rotineiras que cada aplicativo móvel Guardian realiza. Isto impede que um observador saiba que você está se comunicando conosco, e muito menos o que está sendo dito.
Se você ainda não possui o aplicativo Guardian, baixe-o (iOS/Android) e acesse o menu. Selecione ‘Mensagens seguras’.
SecureDrop, mensagens instantâneas, e-mail, telefone e correio
Se você puder usar a rede Tor com segurança sem ser observado ou monitorado, poderá enviar mensagens e documentos ao Guardian por meio de nossa plataforma SecureDrop.
Por fim, nosso guia em theguardian.com/tips lista diversas maneiras de entrar em contato conosco com segurança e discute os prós e os contras de cada uma.
Ilustração: Guardian Design / Primos Ricos
Obrigado pelo seu feedback.
