Ouça este artigo
Estimativa de 6 minutos
A versão em áudio deste artigo é gerada por tecnologia baseada em IA. Podem ocorrer erros de pronúncia. Estamos trabalhando com nossos parceiros para revisar e melhorar continuamente os resultados.
OUÇA | Se a IA se tornar mais inteligente que os humanos, ela poderá assumir o controle?:
Ideias54:01Por que a IA precisa ser mais gentil conosco e desenvolver “instintos maternais”
Geoffrey Hinton, que muitos consideram o padrinho da inteligência artificial, diz que se a IA continuar a desenvolver-se sem barreiras de protecção adequadas, o pior cenário poderá levar à extinção humana.
Mas ele tem uma solução.
Hinton é co-vencedor do Prêmio Nobel de Física de 2024 e cofundador da AI Safety Foundation.
Como ele explica à apresentadora do IDEAS, Nahlah Ayed, treinar a IA para desenvolver instintos maternais pode ser o que salva a raça humana. Aqui está uma parte dessa conversa.
Qual é o pior cenário que você pode imaginar aqui?
Bem, existem muitos cenários ruins no curto prazo que não envolvem a tomada do controle pela IA. Portanto, é difícil escolher o pior.
Mas, por exemplo, a IA está a ser usada por terroristas para criar novos vírus desagradáveis. Está tornando muito mais fácil para eles fazerem isso. E isso é muito assustador. Conseguiremos colaboração internacional sobre como tentar evitar isso, mas talvez não consigamos. Então esse é um risco de curto prazo.
O que mais me preocupa ainda é o risco a longo prazo, que me parece bastante inevitável, de as IAs se tornarem mais inteligentes do que nós. Há IA sendo usada para corromper a democracia com vídeos falsos.
Mas o que mais me preocupa ainda é o risco a longo prazo, que me parece bastante inevitável, de as IAs se tornarem mais inteligentes do que nós, e não sabemos como poderemos então coexistir com elas. Não sabemos se eles realmente nos substituirão.
Deixe-me perguntar sem rodeios. Quais são as probabilidades de a IA realmente levar à extinção humana neste século?
OK, acho que a única resposta honesta é que isso é algo que provavelmente não acontecerá nos próximos 10 ou 20 anos. E temos muito pouca ideia de como serão as coisas daqui a 10 ou 20 anos. Se você olhar apenas 10 anos para trás, ninguém tinha ideia de que teríamos chatbots tão bons quanto agora.
E assim, se o progresso for apenas linear, podemos esperar que dentro de 10 a 20 anos as coisas serão muito diferentes de como são agora e teremos todos os tipos de avanços que não poderíamos ter previsto. A resposta mais honesta é que não temos a menor ideia.
E para não insistir no negativo, mas é no extremo do seu horizonte de medo que isso poderia levar à extinção dos humanos?
Ah, certamente poderia, sim. Acho que qualquer pessoa que disse que isso não levará à extinção dos humanos simplesmente não está encarando a realidade.
ASSISTA | Um apelo por uma IA mais gentil para os humanos no futuro:
E se construíssemos a IA para ter instintos maternais?
Geoffrey Hinton, co-vencedor do Prêmio Nobel de Física de 2024, é conhecido por muitos como o ‘padrinho da IA’. Ele conversou com a Ideas sobre como poderíamos treinar a IA para ser mais gentil com os humanos.
Eu me pergunto como poderíamos moldar o futuro da IA para garantir que ela seja mais gentil conosco. Existe uma maneira?
Pode haver. Acho que deveríamos investir muito esforço de pesquisa nisso. Então, se você olhar ao redor e perguntar: “Onde está um exemplo de uma coisa mais inteligente sendo controlada por uma coisa menos inteligente?” o melhor exemplo que conheço e talvez o único no sentido de que estamos falando é como um bebê controla uma mãe e isso porque a evolução incorporou coisas na mãe.
Ela não suporta o som do bebê chorando. Ela recebe todos os tipos de recompensas hormonais por ser gentil com o bebê. Foi muito importante, obviamente, para a evolução deixar o bebê controlar a mãe para a sobrevivência da espécie.
Talvez possamos fazer o mesmo com a IA. Mesmo que seja mais inteligente do que nós, se conseguíssemos fazer com que ele se preocupasse mais conosco do que consigo mesmo, algumas coisas boas resultariam disso.
Ele perceberia que somos bastante limitados em nossas habilidades intelectuais, mas, de qualquer maneira, iria querer que (nós) nos desenvolvêssemos tanto quanto pudéssemos. Se você pegar uma mãe normal e disser: “Você gostaria de desligar seus instintos maternais? Sua vida não seria muito mais fácil se você simplesmente acordasse no meio da noite e dissesse: ‘Ah, o bebê está chorando de novo’, e voltasse a dormir. Isso não seria legal?”
A maioria das mães diria não, porque elas realmente se preocupam com o bebê e percebem que isso seria muito ruim para elas. A maioria deles não vai querer desligar esses instintos, embora pudessem fazê-lo se quisessem, porque podem obter seu próprio código.
Estou surpreso que isso não tenha feito parte do desenvolvimento da IA, para começar. Por que não pensamos em garantir que a IA seja mais gentil conosco?
Ah, porque o principal impulso da IA até muito recentemente era querer assistência inteligente.
Você não precisa que ele seja gentil, você só precisa que ele seja eficiente e faça o que você diz. E essa tem sido a visão de como podemos desenvolver IA a partir das grandes empresas de tecnologia.
Até ficar mais inteligente.
E não acho que seja sustentável quando fica mais inteligente. Acho que precisamos reformular isso completamente, pois não seremos o chefe e a IA será nossa assistente inteligente. A IA cuidará de nós. Como você faz isso? Como podemos dar instintos maternais à IA para serem mais gentis conosco?
Bem, lembre-se, estamos desenvolvendo isso. Estamos criando isso. Ainda temos uma chance de fazer isso. Se teremos sucesso ou não, depende em parte de quanto nos esforçamos. Talvez não seja possível.
Pode ser que, uma vez desenvolvida uma IA superinteligente, ela saia e faça o que quer e sejamos apenas uma fase passageira no desenvolvimento da inteligência. Mas se for possível desenvolvê-lo de uma forma que cuide mais de nós do que de si mesmo, seria muito tolo se fôssemos extintos porque não tentamos.
Quantas pessoas estão realmente trabalhando nesse aspecto das coisas hoje?
Provavelmente menos de um por cento dos investigadores que trabalham com IA, o que é uma loucura.
*Perguntas e respostas editadas para maior clareza e extensão. Este episódio foi produzido por Nicola Luksic.
Baixe o Podcast IDEIAS para ouvir a conversa completa.
