EUFoi minha camisa azul, presente da minha cunhada, que revelou tudo. Isso me fez pensar em Yakov Petrovich Golyadkin, o humilde burocrata da novela O Duplo, de Fiódor Dostoiévski, um estudo desconcertante do eu fragmentado dentro de um sistema feudal vasto e impessoal.
Tudo começou com uma mensagem de um estimado colega me parabenizando por uma videoconferência sobre algum tema geopolítico. Quando cliquei no link do YouTube em anexo para relembrar o que havia dito, comecei a me preocupar com o fato de minha memória não ser mais o que costumava ser. Quando gravei esse vídeo? Alguns minutos depois, eu sabia que havia algo errado. Não porque eu encontrasse falhas no que estava dizendo, mas porque percebi que o vídeo me mostrava sentado à mesa do meu escritório em Atenas, vestindo aquela camisa azul, que nunca havia saído da minha ilha natal. No final das contas, era um vídeo apresentando um sósia de IA falso e profundo meu.
Desde então, centenas de vídeos desse tipo, mostrando meu rosto e sintetizando minha voz, proliferaram no YouTube e nas redes sociais. Ainda neste fim de semana, houve outra cena, retratando um eu falso dizendo coisas fictícias sobre o golpe na Venezuela. Eles dão palestras, dizem coisas que eu poderia ter dito, às vezes misturadas com coisas que eu nunca diria. Eles se enfurecem, eles pontificam. Alguns são grosseiros, outros perturbadoramente persuasivos. Os apoiadores os enviam para mim, perguntando: “Yanis, você realmente disse isso?” Os oponentes os divulgam como prova da minha idiotice. Pior ainda, alguns argumentam que meus sósias são mais articulados e convincentes do que eu. E assim encontro-me na posição bizarra de ser um espectador das minhas próprias marionetas digitais, um fantasma numa máquina tecnofeudal que há muito defendo que não está apenas quebrada, mas concebida para enfraquecer.
Minha reação inicial foi escrever para o Google, Meta e demais para exigir que retirassem esses vídeos. Vários formulários foram preenchidos com raiva antes que, uma semana ou mais depois, alguns desses canais e vídeos fossem retirados do ar, apenas para reaparecerem instantaneamente sob diferentes disfarces. Em poucos dias eu desisti: não importa o que eu fizesse, não importa quantas horas eu passasse todos os dias tentando a sorte em fazer com que as grandes tecnologias derrubassem meus doppelgangers de IA, muitos mais voltariam a crescer, como a Hydra.
‘Centenas de vídeos mostrando meu rosto e sintetizando minha voz proliferaram no YouTube e nas redes sociais.’ Outra imagem gerada por IA de um vídeo deepfake de ‘Yanis Varoufakis’. Ilustração: YouTube
Logo, a raiva deu lugar à contemplação. Afinal, não fui eu quem argumentou que as grandes tecnologias não se limitaram a digitalizar o capitalismo, mas que de facto lideraram uma grande transformação, transformando os mercados em feudos de nuvens e os lucros em rendas de nuvens? Não serão os meus sósias da IA a confirmação perfeita de que, nesta realidade tecnofeudal, o indivíduo liberal está morto e enterrado?
Concordando com a perda parcial da autopropriedade, procurei consolo na racionalização destes deepfakes como o derradeiro acto de cercamento feudal, prova de que sob o tecnofeudalismo não possuímos nada – nem a produção de dados do nosso trabalho, nem os nossos gráficos sociais e agora nem mesmo a nossa identidade audiovisual. Nossos novos senhores nos veem como inquilinos em suas terras nubladas, andróides cuja semelhança eles podem se apropriar à vontade para semear confusão, para discursos turvos, para afogar a dissidência genuína em uma cacofonia de ruído sintético criada para esse propósito.
Mas então um pensamento mais alegre me ocorreu, um pensamento que remonta à antiga Atenas. E se meus sósias de IA fossem arautos da isegoria (ἰσηγορία), um princípio tão brilhante, promissor e ausente quanto a própria democracia genuína? Quando pedi a várias versões de chatbots de IA que o definissem, todos eles obedientemente deturparam o seu significado, definindo isegoria como igualdade de expressão, ou o direito de ser ouvido, ou a liberdade de se dirigir à assembleia. Mas não foi isso que os atenienses quiseram dizer com a palavra. Na verdade, para eles isegoria significava exactamente o oposto da “liberdade de expressão” de hoje, que rejeitariam como o direito abstracto de gritar para o vazio. Para os atenienses, significava o direito de ter os seus pontos de vista julgados seriamente, com base nos seus méritos, independentemente de quem você é ou de quão bem você os expressa.
Poderiam os deepfakes de IA salvar a isegoria das garras de nossa distopia tecnofeudal? Quando percebemos que é impossível verificar quem está falando num vídeo do YouTube, poderemos ser forçados a julgar os méritos do que está sendo dito, em vez de quem está dizendo isso? No processo de degradação da autenticidade, será que a grande tecnologia poderia ter inadvertidamente dado uma chance à isegoria? Essas perguntas ofereceram um vislumbre de esperança.
Era a esperança de que o espectro da democracia ainda possa pairar sobre as nossas cabeças se conseguirmos encontrar a motivação para olhar para cima, para nos envolvermos no trabalho lento, difícil e democrático que o feed algorítmico foi concebido para obliterar: avaliação crítica de pontos de vista e argumentos lançados contra nós. Infelizmente, esta esperança, embora tangível, é insuficiente enquanto os nossos senhores tecnofeudais mantiverem duas vantagens colossais e assimétricas.
Primeiro, eles são donos da própria ágora – os servidores, os feeds, os meios algorítmicos de comunicação. Eles podem ungir o seu próprio discurso como autêntico com selos digitais, enquanto afogam o nosso num pântano de dúvida e ruído. O resultado? Não isegoria, mas um direito divino digital onde a verdade é propriedade patenteada do poder.
Em segundo lugar, e de forma mais astuta, eles não precisam de deepfakes para governar. A sua ideologia está incorporada na máquina: o poder de extrair mais-valia dos proletários ligados à nuvem através de vários dispositivos digitais, a lógica de extrair rendas da nuvem dos capitalistas vassalos nas suas plataformas, a tirania do valor accionista, o seu sucesso iminente na privatização do dinheiro.
Portanto, nossa tarefa não é implorar a verificação desses senhores. Nossa tarefa é política. Devemos socializar o capital da nuvem, a nova força todo-poderosa que transforma a sociedade e destrói tudo o que torna o humanismo imaginável.
Até então, deixem nossos sósias digitais falarem. Talvez eles saturem tanto o espetáculo que finalmente deixaremos de ouvir a nossa voz e começaremos a julgar os argumentos em seus próprios termos. Este é talvez o fragmento de esperança mais paradoxal numa sala de espelhos. Mas neste carnaval, agarramos cada fragmento que podemos.
