CAnberra estendeu o tapete vermelho esta semana para um dos senhores da IA cuja tecnologia está conduzindo o mundo no caminho da destruição criativa. O CEO da Anthropic, Dario Amodei, o suposto “bom” oligarca tecnológico, estava a tecer a sua versão de um futuro impulsionado pela máquina com o ímpeto de um homem que desvendou os mistérios do universo – ou pelo menos construiu um modelo de texto preditivo que pode raspar a produção da humanidade e cuspir resumos convincentes da nossa consciência colectiva.
Ele presenteou o primeiro-ministro, diversas autoridades eleitas e as celebridades do setor tecnológico com sua proposta de uma boa IA que transformaria a economia, antes de se tornar o primeiro a assinar os novos princípios de datacenter do governo, convenientemente divulgados apenas uma semana antes. Foi uma farsa convincente e, para ser justo, Amodei não é o pior dos deuses. Ele criou a Anthropic depois de deixar a Open AI, quando a empresa dispensou sua missão sem fins lucrativos de “segurança em primeiro lugar”. Ele compartilha regularmente ensaios ponderados sobre o caminho da tecnologia e tem sido aberto sobre seus temores quanto ao impacto de seus próprios produtos. Ele rompeu com a administração Trump por causa dos limites de como sua tecnologia seria usada para espionar cidadãos e permitir armas autônomas, tornando-se um inimigo do Estado.
Mas, como me lembra Toby Walsh, professor científico de inteligência artificial na Universidade de Nova Gales do Sul: não existe uma “IA boa” porque a IA é boa e má. Pode desbloquear novas ligações e conhecimentos através da síntese de enormes quantidades de informação, mas depende da extracção de enormes quantidades de energia para criar ferramentas que substituam trabalhadores humanos por máquinas. Como outros modelos, a Anthropic foi treinada no trabalho roubado de criadores. Na verdade, a empresa resolveu uma reclamação de 1,5 mil milhões de dólares apresentada por autores nos EUA. Amodei previu alegremente que sua tecnologia destruirá até metade de todos os empregos de colarinho branco, mas continua independentemente.
O presidente-executivo da Anthopic, Dario Amodei, no Fórum Econômico Mundial em Davos, em janeiro. Fotografia: Krisztian Bocsi/Bloomberg via Getty Images
Tem sido instrutivo observar a recepção que Amodei recebeu do nosso governo, que se proclamou apostado na IA e no seu canto de sereia de um caminho rápido para a produtividade, embora baseado em modelos patrocinados pela indústria. Isto apesar das preocupações dos seus principais constituintes sindicais, da justa indignação dos artistas e das preocupações bem fundamentadas dos pais. À medida que o governo luta com estas contradições, a ideia de uma “IA progressiva” parece um maná caído do céu. O memorando de entendimento firmado com a Anthropic preenche todos os requisitos certos, desde “rastrear o progresso da IA de fronteira e promover a segurança” até “apoiar um ecossistema doméstico vibrante”.
Mas, observando dos assentos baratos, não posso deixar de me perguntar: será esta realmente uma visão progressista do progresso?
E sempre me considerei progressista. Meu pai era medidor de rios e líder sindical honorário, minha primeira memória política é da demissão, atingi a maioridade com a ascensão de Bob Hawke e encontrei meu caminho para o jornalismo e depois para os bastidores da política progressista onde passei as últimas três décadas. Tive o privilégio de trabalhar com a maior parte do movimento, sindicatos, partidos políticos, alterações climáticas, Primeiras Nações e deficiência. Lutei para encontrar uma causa que não estimulasse minha paixão pelo progresso.
Mas embora eu usasse as camisetas, “progressista” não era um termo que eu gastasse energia intelectual para definir. Fui mais motivado pela convicção de que, com impulso suficiente, o mundo estava a caminhar para um futuro mais justo e justo. Isto reflecte o caminho de Hegel para o reconhecimento mútuo que levaria a sociedade a estabelecer-se num estado de equilíbrio; como observou a famosa observação de Martin Luther King Jr: “O arco do universo moral é longo, mas se inclina em direção à justiça”. Contanto que continuemos nos movendo, chegaremos lá.
Eu acreditava que o governo social-democrata seria o motor destes avanços, respondendo à pressão dos movimentos de massas para mudanças positivas nas leis, na regulamentação e no financiamento que reflectissem esta consciência acrescida. Os governos progressistas redistribuiriam a riqueza, financiariam a rede de segurança e tributariam as pessoas com base na sua capacidade de pagar. Nos casos em que não se pudesse confiar no sector privado para a prestação de serviços essenciais, o governo agiria no nosso interesse. Onde a nação exigisse liderança moral, o governo reflectiria os nossos valores únicos.
Três coisas aconteceram nos últimos anos que me fazem questionar o que sempre considerei uma prova evidente. Primeiro, os movimentos culturais progressistas ficaram presos nas suas próprias bolhas, ao mesmo tempo que a economia progressista foi seduzida pela direita; e então a tecnologia enfiou-nos a sua visão de progresso goela abaixo. São estas ondas de progresso que estão a impulsionar os movimentos populistas que ameaçam subverter a democracia liberal, tanto a nível mundial como a nível nacional.
A ascensão da One Nation foi turbinada por uma reação contra as chamadas políticas de identidade. O seu “Filme Super Progressista” mostra que eles vêem a agenda cultural da esquerda como o seu calcanhar de Aquiles. Os progressistas há muito que aceitaram como um acto de fé que o racismo e o sexismo eram pecados e que a injustiça sistémica deveria ser combatida como parte da nossa expressão colectiva da humanidade. Mas à medida que a amplitude das causas se expandiu, estes movimentos foram retratados pelos seus oponentes como excludentes e moralistas, e vistos como minando o colectivo em detrimento do individual.
A consequência mais ampla de uma política dominada pela identidade individual é que a noção de classe foi apagada. À medida que a densidade sindical diminuiu no último quartel do século XX, os combatentes da classe trabalhadora foram privados de direitos dos movimentos progressistas que construíram. Os trabalhadores estabeleceram um partido político, conquistaram o poder, impulsionaram um contrato social australiano que partilhou os recursos económicos da nação e proporcionou uma indústria estável. Incorporado neste acordo estava um compromisso entre cultivar e distribuir a torta, mas com a protecção da indústria e o sistema industrial centralizado parecia possível aos trabalhadores australianos terem o seu bolo e comê-lo também.
A conclusão da guerra fria convocou O Fim da História, de Francis Fukuyama, onde o mundo estaria unido num sistema de comércio e cooperação globais sustentado por uma ordem internacional baseada em regras. Na Austrália, Paul Keating tentou canalizar estes ventos globais de mudança, aderindo aos mercados monetários globais, à remoção de tarifas e à privatização dos serviços governamentais. E apesar da dor da recessão do início da década de 1990 e do custo humano de indústrias inteiras terem sido destruídos, a maior riqueza nacional cumpriu a promessa de Robert Reich em O Trabalho das Nações, onde o trabalho do conhecimento geraria empregos melhores e mais inteligentes. O progresso económico ainda era progressivo.
‘Em vez de memorandos de entendimento com senhores da tecnologia, o único caminho viável que vejo agora é fazer tudo o que pudermos para desacelerar o trem.’ Fotografia: Getty Images
Mas o novo milénio assistiu à aceleração da concentração dessa riqueza, tanto entre as nações como dentro delas, que a globalização desencadeou, enquanto a confiança no sistema entrou em colapso. Terry Flew, da Universidade de Sydney, identifica 2007 como um ponto de inflexão: o resgate de bancos que foram considerados demasiado grandes para falir na sequência da crise financeira que arquitetaram provou que o sistema financeiro global funcionava com base no poder e não na justiça. A ascensão de gigantes tecnológicos corporativos resultou numa intensificação destas tendências, com a adoção global de uma tecnologia construída sobre a ideia de poder centralizado.
Embora a Internet parecesse um recurso gratuito que impulsionaria um mundo mais liberal, os modelos de negócio construídos em torno da extracção da nossa atenção levaram-nos numa viagem da esperança ao desespero. De “Sim, podemos” a “Drenar o pântano”.
SOBREDeste modelo falido emergiu um novo acelerador para a concentração de riqueza e poder. É neste contexto que me sinto questionando o meu progressismo instintivo. Um modelo de negócio baseado na vigilância e manipulação do utilizador, estruturado para substituir o pensamento humano por resultados de máquinas, alimentado por um compromisso imprudente de agir rapidamente e quebrar as coisas, não é o caminho para o reconhecimento mútuo que Hegel imaginou, nem a marcha para a justiça que a ICL invocou.
O risco para o governo é que se a IA fizer o que diz o autocolante, então irá deslocar muitos empregos e algumas indústrias inteiras; preencherá nossos espaços públicos com vertente cultural; será usado para minar a fé na democracia e expor não apenas as crianças, mas qualquer pessoa que procure companhia, a danos. E se isso acontecer e um partido populista aproveitar isto como mais uma prova de que o sistema deixou de funcionar para as pessoas comuns, o governo não terá ninguém para culpar a não ser ele próprio.
Enquanto os nossos líderes estão ansiosos por ligar os centros de dados, os decanos da América progressista, Bernie Sanders e Alexandria Ocasio-Cortez, pedem uma moratória. Num processo de educação muito público, Sanders passou os últimos meses entrevistando toda a gente, desde o vencedor do Prémio Nobel Geoffrey Hinton até uma versão robótica de Claude da Anthropic, fazendo o pensamento difícil que muitos outros se esquivaram. Ele não está apenas a analisar os perigos claros e presentes, mas também a colocar questões mais fundamentais sobre aonde isto nos está a levar. Por que nos dizem que precisamos agir tão rápido? Por que uma tecnologia tão voraz e exploradora é tão inevitável? Este é realmente o caminho que queremos seguir?
Porque eis a verdade: o progresso sempre foi condicional. A direção da mudança, a velocidade da mudança, a distribuição dos custos e benefícios da mudança determinam o seu impacto final. Se ainda sou progressista, é como se os luditas fossem progressistas, desafiando activamente a inevitabilidade da trajectória exploratória da tecnologia, quebrando máquinas e ameaçando as estruturas de poder que aceleraram a sua ascensão. Em vez de memorandos de entendimento não vinculativos com os senhores da tecnologia, o único caminho viável que vejo neste momento é fazer tudo o que estiver ao nosso alcance para abrandar o comboio, construindo os guarda-corpos e estabelecendo as linhas vermelhas que são as nossas únicas ferramentas para reagir. Pelo menos isso seria um progresso.
Peter Lewis é o diretor executivo da Essential, uma empresa progressista de comunicações estratégicas e pesquisa que realizou pesquisas qualitativas para o Partido Trabalhista nas últimas eleições federais. Ele é o apresentador do Burning Platforms, um podcast semanal com foco na política da tecnologia
