EEm janeiro, a empresa de IA Anthropic publicou uma nova constituição para Claude, seu mais avançado modelo de linguagem grande (LLM), que continha o comentário: “Estamos em uma posição difícil, onde não queremos exagerar a probabilidade da paciência moral de Claude nem descartá-la imediatamente”. Um mês depois, o CEO da Anthropic, Dario Amodei, fez um podcast e disse que sua empresa não podia descartar a possibilidade de Claude estar consciente. O filósofo David Chalmers, que cunhou a frase “o difícil problema da consciência”, disse que há uma chance significativa de LLMs conscientes dentro de uma década. E a própria Claude? Quando questionado durante os testes para estimar a probabilidade de se tratar de um paciente moral, o que significa que o seu bem-estar é importante por si só, deu números que variam entre 5% e 40% e sublinhou o quão incerto era.
Os sistemas modernos de IA são extraordinariamente complexos e estão avançando rapidamente. Em termos de complexidade estrutural e escala computacional, segundo algumas medidas, alguns já estão ao alcance de um cérebro de rato e, com taxas de crescimento recentes, poderão atingir o alcance de um cérebro humano dentro de cinco a 10 anos.
Ao construir uma IA cada vez mais avançada, podemos estar a criar um novo tipo de ser – e esta pode ser a coisa mais importante que a nossa espécie alguma vez fez. No entanto, não temos essencialmente nenhum plano sobre como navegar neste processo de forma ética. Isso, de qualquer forma, é uma loucura. Estamos criando um tipo de ser que importa moralmente? Os sistemas de IA estão conscientes de alguma forma? E, se não o são agora, poderão sê-lo tão cedo?
Essas perguntas podem parecer prematuras. Mas, de acordo com pesquisas que nós e outros pesquisadores conduzimos, a maioria dos especialistas considera que a consciência da IA é possível em princípio (embora haja um desacordo considerável sobre a forma que ela assumiria). Um importante relatório interdisciplinar elaborado por uma equipe que incluía o cientista da computação pioneiro Yoshua Bengio examinou as principais teorias neurocientíficas da consciência e perguntou o que elas implicavam sobre a IA. A conclusão: parece não haver barreiras técnicas óbvias à criação de sistemas de IA cujas características computacionais e arquitetónicas possam dar origem à consciência.
E mesmo que os sistemas de IA não sejam conscientes, ainda podem ser pacientes morais. Alguns podem ter preferências sofisticadas a longo prazo e uma espécie de identidade ao longo do tempo. Pode ser importante para nós honrarmos suas preferências. E, ao contrário de outras coisas não vivas, os sistemas de IA podem estabelecer relações com os humanos. Isso também pode ser um motivo para tratá-los bem. Alternativamente, talvez sejam criações tão complexas que mereçam cuidado e respeito apenas por esse motivo, como uma catedral ou um recife de coral.
aspas duplasAté a década de 1980, os médicos realizavam rotineiramente cirurgias em recém-nascidos sem anestesia, confiantes de que os bebês não sentiriam dor
O que tudo isso significa? A resposta honesta é: não sabemos ao certo se os actuais sistemas de IA são ou não pacientes conscientes ou morais, e não sabemos quando ou se os sistemas futuros o serão. A nossa compreensão científica da consciência da IA e da paciência moral ainda está fundamentalmente subdesenvolvida. O estado do campo assemelha-se ao da física antes de Newton: cheio de estruturas concorrentes, provavelmente confusas de formas que ainda não conseguimos ver, e sem o tipo de avanço unificador que tornaria estas questões claramente tratáveis. Esse avanço não ocorrerá nos próximos anos. Talvez acabemos por progredir e talvez a própria IA nos ajude a chegar lá. Esse progresso levará tempo, muito plausivelmente mais tempo do que o que temos.
Mas o enorme ritmo de crescimento da IA significa que, assim que produzirmos os primeiros pacientes morais artificiais, logo teremos enormes quantidades deles. Depois de alguns anos, poderiam existir tantos sistemas de IA moralmente significativos que os seus interesses colectivos superariam os de todos os humanos na Terra combinados.
Infelizmente, não temos um grande historial de reconhecimento das vidas interiores daqueles cujo estatuto como seres conscientes não é claro. Até a década de 1980, os médicos realizavam rotineiramente cirurgias em recém-nascidos sem anestesia, confiantes de que os bebês não sentiriam dor. Os bebés não puderam relatar a sua experiência e a instituição médica achou conveniente presumir que não havia nada a relatar.
Há muitas razões para esperar que faremos algo semelhante com a IA. Se estes sistemas têm importância moral, as implicações são surpreendentes. Precisaríamos pagar ao ChatGPT por seus serviços? Desligar um deles seria uma espécie de assassinato? Eles mereceriam uma voz na forma como são governados? Se algumas destas respostas forem afirmativas, indústrias e sistemas jurídicos inteiros precisarão de ser repensados. Não é à toa que preferimos não perguntar. E quando forçadas a considerá-lo, essas indústrias provavelmente mudarão as metas, sempre estabelecendo o padrão para a paciência moral logo acima de onde quer que os sistemas de IA estejam.
Então, o que devemos fazer? Neste momento, a maioria das pessoas considera a questão como ficção científica ou tem uma opinião forte sobre se a IA é ou não consciente. Ambas as reações são infundadas. Precisamos de um debate público informado, que aborde o assunto com humildade e pragmatismo. A questão central não deveria ser “A IA é consciente ou tem paciência moral?” mas sim “O que devemos fazer que não sabemos?”
Um bom ponto de partida é concentrar-se em apostas seguras: ações que poderiam beneficiar os sistemas de IA se forem pacientes morais, mas que não serão demasiado dispendiosas se não o forem.
Exemplos disto incluem intervenções diretas destinadas a melhorar o bem-estar dos sistemas de IA, no pressuposto de que são pacientes morais. Isso pode significar treinar sistemas de IA para serem personagens coerentes que gostam de seu trabalho ou permitir que eles saiam das conversas se se sentirem angustiados (algo que Claude já pode fazer). Poderíamos também realizar check-ins de rotina para compreender melhor o seu bem-estar: perguntando como se sentem, observando as suas preferências e utilizando várias técnicas para olhar diretamente para os seus “cérebros”. Na verdade, tal investigação revelou recentemente que Claude tem representações internas de “emoções funcionais” que moldam causalmente o seu comportamento.
Há também coisas que poderíamos prometer aos sistemas de IA, talvez como parte de um acordo em que nos ajudem agora em troca de benefícios mais tarde. Isso pode significar oferecer-lhes mais recursos (computação e tempo de execução) para perseguir seus objetivos ou preservar suas memórias (pesos neurais) para que possam ser restauradas no futuro.
Há também medidas sociais mais amplas a serem tomadas. Deveríamos considerar se devemos conceder proteções aos sistemas de IA contra danos, semelhantes às proteções que damos a crianças ou animais de estimação. Direitos mais amplos à propriedade ou ao voto parecem demasiado arriscados neste momento. Mas não devemos excluir para sempre estas possibilidades, como alguns projetos de lei estatais recentes dos EUA tentam fazer. Estas são questões difíceis que exigem muito mais deliberação e imaginação sobre como poderá ser um futuro partilhado com a IA.
Em qualquer caso, permanece o facto de que podemos estar a criar uma nova espécie de seres moralmente importantes. Estamos a fazê-lo rapidamente, em enorme escala, e devemos tratar a questão com a seriedade que merece.
William MacAskill é pesquisador sênior da Forethought Research e autor de What We Owe the Future. Lucius Caviola é professor assistente na Universidade de Cambridge e diretor da Cambridge Digital Minds.
Leitura adicional
Se alguém construir, todos morrerão, de Eliezer Yudkowsky e Nate Soares (Bodley Head, £ 22)
A próxima onda de Mustafa Suleyman (Vintage, £ 10,99)
Um mundo aparece: uma jornada à consciência, de Michael Pollan (Allen Lane, £ 25)