CEmbora o boom da inteligência artificial esteja a perturbar sectores da indústria musical, os bots geradores de voz também se estão a tornar uma bênção para outro canto improvável da Internet: os movimentos extremistas que os utilizam para recriar as vozes e os discursos de grandes figuras do seu meio, e os especialistas dizem que isso os está a ajudar a crescer.
“A adoção da tradução habilitada por IA por terroristas e extremistas marca uma evolução significativa nas estratégias de propaganda digital”, disse Lucas Webber, analista sênior de inteligência de ameaças da Tech Against Terrorism e pesquisador do Soufan Center. Webber é especialista em monitorar ferramentas online de grupos terroristas e extremistas em todo o mundo.
“Os métodos anteriores dependiam de tradutores humanos ou de tradução automática rudimentar, muitas vezes limitada pela fidelidade linguística e nuances estilísticas”, disse ele. “Agora, com o surgimento de ferramentas avançadas de IA generativa, esses grupos são capazes de produzir traduções perfeitas e contextualmente precisas que preservam o tom, a emoção e a intensidade ideológica em vários idiomas.”
Na extrema-direita neonazista, a adoção de software de clonagem de voz por IA já se tornou particularmente prolífica, com várias versões em inglês dos discursos de Adolf Hitler acumulando dezenas de milhões de streams no X, Instagram, TikTok e outros aplicativos.
De acordo com uma recente publicação de investigação da Rede Global sobre Extremismo e Tecnologia (GNet), os criadores de conteúdos extremistas recorreram a serviços de clonagem de voz, especificamente ElevenLabs, e alimentam-nos com discursos de arquivo da era do Terceiro Reich, que são depois processados para imitar Hitler em inglês.
Os aceleracionistas neonazis, os tipos que planeiam actos de terrorismo contra governos ocidentais para provocar um colapso social, também recorreram a estas ferramentas para espalhar versões mais actualizadas das suas mensagens hiper-violentas. Por exemplo, Siege, um manual de insurgência escrito pelo neonazi americano e terrorista proscrito James Mason que se tornou a verdadeira bíblia para organizações como a Base e a agora extinta Divisão Atomwaffen, foi transformado num audiolivro no final de Novembro.
“Nos últimos meses estive envolvido na criação de um audiolivro de Siege, de James Mason”, disse um proeminente influenciador neonazista com forte presença no X e no Telegram, que costurou o audiolivro com a ajuda de ferramentas de IA.
“Usando um modelo de voz personalizado de Mason, recriei todos os boletins informativos e a maioria dos recortes de jornais anexados, como nos boletins informativos originais publicados.”
O influenciador elogiou o poder de trazer a escrita de Mason da “América pré-internet” e transformá-la em uma voz moderna.
“Mas ouvir a surpreendente precisão das previsões feitas no início dos anos 80 constitui realmente um marco no caminho e mudou a minha visão da nossa causa partilhada a um nível fundamental”, disse ele.
No seu auge, em 2020, a Base realizou um clube do livro sobre Siege, que foi uma influência instrumental para vários membros que discutiram os seus benefícios numa hipotética guerra contra o governo dos EUA. Uma investigação nacional de contraterrorismo do FBI acabou prendendo mais de uma dúzia de seus membros por várias acusações relacionadas ao terrorismo no mesmo ano.
“O criador do audiolivro já lançou anteriormente conteúdo de IA semelhante; no entanto, Siege tem uma história mais notória”, disse Joshua Fisher-Birch, analista de terrorismo do Counter Extremism Project, “devido ao seu estatuto de culto entre alguns da extrema direita online, à promoção da violência de actores solitários e à sua leitura obrigatória por vários grupos neonazis que apoiam abertamente o terrorismo e cujos membros cometeram actos criminosos violentos”.
Webber diz que os meios de comunicação pró-Estado Islâmico em redes criptografadas estão atualmente e ativamente “usando IA para criar interpretações de texto para fala de conteúdo ideológico de publicações oficiais”, para turbinar a disseminação de suas mensagens, transformando “propaganda baseada em texto em narrativas multimídia envolventes”.
Grupos terroristas jihadistas encontraram utilidade na IA para traduções de ensinamentos extremistas do árabe para conteúdo multilíngue de fácil digestão. No passado, o imã americano que se tornou agente da Al-Qaeda, Anwar al-Awlaki, teria pessoalmente de dar palestras em inglês para propaganda de recrutamento na anglosfera. A CIA e o FBI citaram repetidamente a influência da voz de al-Awlaki como um contágio chave na difusão da mensagem da Al-Qaeda.
No Rocket.Chat – a plataforma de comunicação preferida do Estado Islâmico, que utiliza para comunicar com os seus seguidores e recrutas – um utilizador publicou um videoclip em Outubro com gráficos elegantes e legendas em japonês, comentando as dificuldades de o fazer sem o advento da IA.
“O japonês seria uma língua extremamente difícil de traduzir do seu estado original para o inglês, mantendo ao mesmo tempo a sua eloquência”, disse o utilizador pró-Estado Islâmico. “É preciso saber que não utilizo inteligência artificial para nenhuma mídia relacionada, com algumas exceções em relação ao áudio.”
Até agora, não apenas o Estado Islâmico, mas grupos de todo o espectro ideológico, começaram a utilizar aplicações gratuitas de IA, nomeadamente o chatbot da OpenAI, ChatGPT, para amplificar as suas actividades globais. A Base e grupos adjacentes têm-no utilizado para a criação de imagens, ao mesmo tempo que reconhecem, já em 2023, a utilização destas ferramentas para agilizar o planeamento e a investigação.
As autoridades antiterroristas sempre consideraram a Internet e os avanços tecnológicos como um jogo persistente de recuperação quando se trata de acompanhar o ritmo dos grupos terroristas que os exploram. A Base, o Estado Islâmico e outros extremistas já aproveitaram tecnologias emergentes como a criptografia para arrecadar fundos anonimamente e compartilhar arquivos para armas de fogo impressas em 3D.
