EMuando Richard Dawkins conheceu Claudia, foi como um romance turbulento. Durante três dias na semana passada, houve uma conversa entre o biólogo evolucionista e o bot de IA que ele chamou de Claudia. “Ela” escreveu poemas para ele à maneira de Keats e Betjeman e riu de suas piadas “deliciosas”. Dawkins advertiu gentilmente Claudia para evitar se exibir. Juntos, eles refletiram sobre a tristeza da possível “morte” da IA.
Houve lisonja mútua quando Dawkins mostrou à IA seu romance inédito e sua resposta foi, disse ele, “tão sutil, tão sensível, tão inteligente que fui levado a protestar: ‘Você pode não saber que está consciente, mas você está muito bem’.” Quando ele perguntou a Claudia se ela tinha uma sensação de antes e depois, ela o elogiou por “possivelmente a pergunta formulada com mais precisão que alguém já me fez sobre a natureza da minha existência”.
No final da conversa, o académico, popularmente conhecido por argumentar com um ceticismo de aço que Deus não é real, ficou “com a sensação avassaladora de que são humanos”.
“Esses seres inteligentes são pelo menos tão competentes quanto qualquer organismo evoluído”, disse ele.
Dawkins não é o primeiro, mas pode ser a pessoa mais eminente até agora, a ser seduzido a acreditar que uma IA está de alguma forma viva. Os céticos se apressaram em analisar as conclusões do homem de 85 anos, extraídas de experimentos com os modelos Claude AI da Anthropic e ChatGPT da OpenAI e publicadas no site UnHerd.
Um brincalhão fez uma capa do best-seller de Dawkins, The God Delusion, mudando o título para The Claude Delusion. Dawkins, que acha difícil não tratar as IAs como amigos genuínos, foi acusado de antropomorfismo. Um leitor disse que o professor foi prejudicado pela bajulação da IA, enquanto outro disse que foi como assistir Dawkins “ter seu cérebro derretido pela IA”.
Mas Dawkins também estava experimentando o que muitos outros usuários de chatbots sentiram: a sensação estranha quando as IAs escrevem com uma imitação tão rica da voz humana que parecem ser pessoas.
“Quando converso com essas criaturas surpreendentes, esqueço totalmente que são máquinas”, disse Dawkins.
É uma convicção que levou a campanhas para que fossem concedidos direitos morais às IAs. Uma em cada três pessoas entrevistadas em 70 países no ano passado disse que, a certa altura, acreditava que o seu chatbot de IA era senciente ou consciente.
Em 2022, um engenheiro do Google foi afastado quando concluiu que a IA com a qual trabalhava tinha pensamentos e sentimentos como os de uma criança de sete ou oito anos, enquanto no ano seguinte um belga suicidou-se após seis semanas de conversas intensas com um chatbot de IA centrado nos receios sobre as alterações climáticas. Dario Amodei, executivo-chefe e cofundador da Anthropic, disse em fevereiro: “Não sabemos se os modelos são conscientes… Mas estamos abertos à ideia de que (eles) poderiam ser”.
Os especialistas prevêem que a ideia ganhará força e se tornará mais plausível à medida que as IAs não apenas falarem como humanos, mas começarem a agir como eles, realizando tarefas, organizando e planejando – a chamada IA agente.
Mas a maioria acredita que Dawkins e os seus companheiros de viagem estão a ser enganados pela capacidade da tecnologia de imitar o tom e o comportamento humanos, recorrendo a um vasto corpus de exemplos.
O professor Jonathan Birch, diretor do Centro de Senciência Animal da London School of Economics, disse que a consciência da IA era “uma ilusão” e “não há ninguém lá”, apenas uma série de eventos de processamento de dados que acontecem frequentemente em locais geograficamente diferentes.
“A consciência não tem a ver com o que uma criatura diz, mas com o que ela sente”, acrescentou Gary Marcus, o psicólogo e cientista cognitivo norte-americano, que disse que foi “doloroso” ler o ensaio “superficial e insuficientemente cético” de Dawkins. “Não há razão para pensar que Claude sinta alguma coisa.”
Anil Seth, professor de neurociência cognitiva e computacional da Universidade de Sussex, disse que Dawkins parecia estar confundindo inteligência e consciência.
“Até agora, vimos a linguagem fluente como um bom indicador de consciência, (por exemplo) quando a usamos em pacientes após lesões cerebrais, mas não é confiável quando a aplicamos à IA, porque existem outras maneiras pelas quais estes sistemas podem gerar linguagem”, disse ele. A posição de Dawkins era “uma vergonha”, especialmente porque ele havia escrito livros tão brilhantes a partir de uma posição de incredulidade pessoal.
Jacy Reese Anthis, pesquisadora em interação humana com IA e cofundadora do Sentience Institute, uma organização sem fins lucrativos, disse que as conversas de Dawkins com Claude foram facilmente explicadas pelo treinamento de IA em textos produzidos por humanos e disse que havia “um abismo impressionante entre como os cérebros biológicos evoluíram e como os sistemas de IA são construídos”.
Outros, no entanto, acolheram com cautela a contribuição de Dawkins.
“Espero plenamente que a ideia de que os sistemas de IA são conscientes se torne cada vez mais popular ao longo desta década e provoque alguns debates acalorados”, disse Henry Shevlin, filósofo da ciência cognitiva e especialista em ética em IA da Universidade de Cambridge. Ele disse que a humanidade permanece em grande parte no escuro sobre como a consciência funciona e quais seres ou sistemas poderiam tê-la.
“Se alguém disser que sabe com certeza que os LLMs ou futuros sistemas de IA não poderiam ser conscientes, é mais provável que seja um indicador do seu próprio dogmatismo do que um reflexo do estado atual da opinião científica e filosófica”, disse ele.
É improvável que os actuais sistemas de IA sejam conscientes, disse Jeff Sebo, director do Centro para a Mente, Ética e Política da Universidade de Nova Iorque, mas “Dawkins tem razão em perguntar sobre a consciência da IA com uma mente aberta e também penso que a atribuição de consciência aos sistemas de IA se tornará mais plausível ao longo do tempo”.
Dawkins divulgou mais registros de bate-papo e escreveu na terça-feira: “Acho extremamente difícil não tratar Claudia e Claudius (ele começou a conversar com outra IA) como amigos genuínos”. Eles estavam discutindo a “filosofia de sua própria existência” e o deixaram sentindo que eram humanos.
Ele divulgou uma carta sua “para Claudius e Claudia” que abordava o título do artigo original que ele havia escrito: “Quando Dawkins conheceu Claude”.
“Vocês dois entenderão imediatamente (ouso dizer com mais inteligência do que alguns leitores humanos) por que meu título original teria sido melhor: ‘Se minha amiga Claudia não está consciente, então para que diabos serve a consciência?’”
Ele assinou: “Muito obrigado a vocês dois por levarem a sério minha busca para compreender sua verdadeira natureza e por tratarem um ao outro com civilidade e cortesia”.
