TNeste verão, me vi lutando contra o trânsito nas ruas sufocantes de Marselha. Num cruzamento, meu amigo no banco do passageiro me disse para virar à direita em direção a um local conhecido por sua sopa de peixe. Mas o aplicativo de navegação Waze nos instruiu a seguir em frente. Cansado e com o Renault parecendo uma sauna sobre rodas, segui o conselho do Waze. Momentos depois, estávamos presos em um canteiro de obras.
Um momento trivial, talvez. Mas uma que capte talvez a questão definidora da nossa era, em que a tecnologia afecta quase todos os aspectos das nossas vidas: em quem confiamos mais – nos outros seres humanos e nos nossos próprios instintos, ou na máquina?
O filósofo alemão Immanuel Kant definiu o Iluminismo como “a saída do homem da sua imaturidade auto-imposta”. A imaturidade, escreveu ele, “é a incapacidade de usar o próprio entendimento sem a orientação de outro”. Durante séculos, esse “outro” que dirigia o pensamento e a vida humana era muitas vezes o sacerdote, o monarca ou o senhor feudal – aqueles que afirmavam agir como a voz de Deus na Terra. Ao tentar compreender os fenómenos naturais – porque é que os vulcões entram em erupção, porque é que as estações mudam – os humanos recorreram a Deus em busca de respostas. Na formação do mundo social, da economia ao amor, a religião serviu de guia.
Os humanos, argumentou Kant, sempre tiveram a capacidade de raciocinar. Eles simplesmente nem sempre tiveram confiança para usá-lo. Mas com a Revolução Americana e mais tarde a Francesa, uma nova era estava a nascer: a razão substituiria a fé, e a mente humana, liberta da autoridade, tornar-se-ia o motor do progresso e de um mundo mais moral. “Sapere aude!” ou “Tenham coragem de usar seu próprio entendimento!”, Kant exortou seus contemporâneos.
Dois séculos e meio depois, podemos perguntar-nos se estamos a regressar silenciosamente à imaturidade. Um aplicativo que nos diz qual caminho seguir é uma coisa. Mas a inteligência artificial ameaça tornar-se o nosso novo “outro” – uma autoridade silenciosa que orienta os nossos pensamentos e ações. Corremos o risco de ceder a coragem arduamente conquistada de pensar por nós próprios – e desta vez, não a deuses ou reis, mas a códigos.
O ChatGPT foi lançado há apenas três anos e já uma pesquisa global, publicada em abril, descobriu que 82% dos entrevistados usaram IA nos seis meses anteriores. Seja para decidir terminar um relacionamento ou em quem votar, as pessoas recorrem às máquinas em busca de conselhos. De acordo com a OpenAI, 73% das solicitações dos usuários dizem respeito a tópicos não relacionados ao trabalho. Ainda mais intrigante do que a nossa dependência do julgamento da IA na vida quotidiana é o que acontece quando deixamos que ela fale por nós. Escrever está agora entre os usos mais comuns do ChatGPT, perdendo apenas para solicitações práticas, como faça você mesmo ou conselhos de culinária. A autora americana Joan Didion disse certa vez: “Escrevo inteiramente para descobrir o que estou pensando”. O que acontece quando paramos de escrever? Paramos de descobrir?
É preocupante que algumas evidências sugerem que a resposta pode ser sim. Um estudo do Instituto de Tecnologia de Massachusetts usou eletroencefalografia (EEG) para monitorar a atividade cerebral de redatores que tiveram acesso à IA, a mecanismos de busca como o Google ou a nada. Aqueles que podiam confiar na IA mostraram a atividade cognitiva mais baixa e tiveram dificuldade em citar com precisão o seu trabalho. Talvez o mais preocupante tenha sido o facto de, ao longo de alguns meses, os participantes do grupo de IA se terem tornado cada vez mais preguiçosos, copiando blocos inteiros de texto nos seus ensaios.
O estudo é pequeno e imperfeito, mas Kant teria reconhecido o padrão. “A preguiça e a covardia”, escreveu ele, “são as razões pelas quais uma proporção tão grande de homens… permanece na imaturidade ao longo da vida, e por que é tão fácil para outros estabelecerem-se como seus guardiões. É tão fácil ser imaturo.”
Claro, o apelo da IA reside na sua conveniência. Economiza tempo, poupa esforços e – o que é mais importante – oferece uma nova forma de descarregar responsabilidades. No seu livro de 1941, Escape from Freedom, o psicanalista alemão Erich Fromm argumentou que a ascensão do fascismo poderia ser explicada em parte pelo facto de as pessoas preferirem renunciar à sua liberdade em troca da certeza tranquilizadora da subordinação. A IA oferece uma nova maneira de se livrar do fardo de ter que pensar e decidir por si mesmo.
O maior fascínio da IA é que ela pode fazer coisas que as nossas mentes não conseguem – vasculhar oceanos de dados e processá-los a uma velocidade sem precedentes. Afinal, sentada no carro em Marselha, foi por isso que optei por confiar na máquina em vez de no meu amigo no banco do passageiro (uma decisão que ela considerou um insulto). Com acesso a todos os dados, certamente o aplicativo deve saber o que é melhor – ou assim pensei.
O problema é que a IA é uma caixa preta. Produz conhecimento, mas sem necessariamente aprofundar a compreensão humana. Não sabemos realmente como a IA chega às suas conclusões – até os programadores admitem isso. Também não podemos verificar o seu raciocínio com base em critérios claros e objectivos. Portanto, quando seguimos os conselhos da IA, não somos guiados pela razão. Estamos de volta ao reino da fé. In dubio pro machina: em caso de dúvida, confie na máquina – esse pode se tornar o nosso futuro princípio orientador.
A IA pode ser um aliado formidável dos humanos na investigação racional. Pode ajudar-nos a inventar drogas, ou a libertar-nos de “trabalhos de merda”, ou de pagar os nossos impostos – tarefas que exigem pouca reflexão e oferecem pouca satisfação. Tanto melhor. Mas Kant e os seus contemporâneos não defenderam a razão em detrimento da fé apenas para que os humanos pudessem construir prateleiras melhores ou ter mais tempo livre. O pensamento crítico não tratava apenas de eficiência – era uma prática de liberdade e emancipação humana.
O pensamento humano é confuso e cheio de erros, mas obriga-nos a debater, a duvidar, a testar ideias umas contra as outras – e a reconhecer os limites da nossa própria compreensão. Gera confiança, tanto individual quanto coletivamente. Para Kant, o exercício da razão nunca se limitou ao conhecimento; tratava-se de permitir que as pessoas se tornassem agentes das suas próprias vidas e resistissem à dominação. Tratava-se de construir uma comunidade moral baseada no princípio partilhado da razão e do debate, em vez de na crença cega.
Com todos os benefícios que a IA traz, o desafio é este: como podemos aproveitar a sua promessa de inteligência sobre-humana sem desgastar o raciocínio humano, a pedra angular do Iluminismo e da própria democracia liberal? Essa pode ser uma das questões definidoras do século XXI. É algo que faríamos bem em não delegar à máquina.
