Mas não é ficção científica, diz Hinton agora. “Isso vai acontecer. Eles já têm muito mais conhecimento do que nós. Eles já são muito bons em raciocínio em domínios limitados como a matemática. Quase todos os especialistas acreditam que é inevitável que… eles se tornem mais espertos do que nós.”
Por exemplo, as máquinas de IA já aprenderam a desenvolver “subobjectivos” – coisas que precisam de fazer para alcançar os objectivos que os humanos estabeleceram para elas. Uma delas é permanecer existindo. “Vimos IAs que querem continuar existindo e que na verdade tentam enganar as pessoas que estão tentando desligá-las.”
As IAs também buscarão mais controle, como um ser humano. “A minha convicção sobre muitos políticos é que eles começam por querer alcançar coisas boas para as pessoas”, diz Hinton, “muito em breve percebem (que) para o fazerem precisam de mais controlo, e depois acabam por se concentrar em obter cada vez mais controlo. As IAs farão o mesmo”.
Embora tenha chegado ao Canadá na década de 1980, Hinton fala com um sotaque britânico calmo e calmo que amortece o impacto das coisas alarmantes que ele está lhe contando. Ele também tem o dom de expressar questões complicadas em termos simples, como o quão pouco sabemos sobre o que a IA se tornará.
“É um pouco como quando você dirige no meio do nevoeiro”, diz ele. “Você pode ver claramente por 100 metros, e a 200 metros você não consegue ver nada. Bem, podemos ver claramente por um ano ou dois, mas daqui a 10 anos, não temos ideia do que vai acontecer.”
Carregando
Uma coisa que é amplamente cotada para acontecer é a perda de empregos. No dia seguinte ao discurso de Hinton, o homem mais rico do mundo, Elon Musk, discursou no Fórum de Investimento EUA-Saudita, em Washington, e previu com optimismo que dentro de 10 a 20 anos – que ele chamou de “longo prazo” – o trabalho seria opcional.
“Será como praticar esportes ou jogar videogame”, disse Musk. Você faz isso porque quer. O dinheiro, disse ele, “deixará de ser relevante em algum momento no futuro”.
Hinton também acredita que a IA provavelmente levará ao desemprego em massa. Ele diz que trilhões de dólares estão sendo gastos no desenvolvimento desta tecnologia, e uma das principais maneiras pelas quais as grandes empresas de tecnologia poderiam recuperar esse investimento é vendendo IA a empresas que farão o trabalho dos funcionários por menos. “Esses caras estão realmente apostando na substituição de muitos trabalhadores pela IA”, diz ele.
Gosto que Hinton não seja um pessimista. Ele não está em uma viagem de desculpas, se arrependendo por ter libertado Frankenstein. Ele explica habilmente os muitos usos positivos da IA – como ela melhorará enormemente os cuidados de saúde e a educação, revolucionará a ciência da previsão e transformará a produtividade. É assim que difere das armas nucleares, que “só servem para destruir coisas”, diz ele.
Carregando
Em Georgetown, um estudante entusiasmado perguntou-lhe por que não deveríamos simplesmente investir todo o nosso dinheiro e energia no desenvolvimento de IAs que pudessem resolver os nossos problemas e nos absolver da necessidade de trabalhar. Hinton disse que era exactamente isso que deveríamos fazer – se pudéssemos confiar nos nossos sistemas políticos para usá-lo em benefício das massas.
Foi então que o interlocutor de Hinton, o senador socialista democrata Bernie Sanders, interveio.
“Você acha que é isso que o Sr. Musk e o Sr. (Jeff) Bezos têm em mente?” ele perguntou ao jovem questionador. “Você acha que é por isso que eles estão gastando centenas de bilhões de dólares, para dizer: isso não é ótimo, poderíamos reduzir a semana de trabalho, podemos garantir cuidados de saúde de alta qualidade para todos, podemos aumentar a expectativa de vida, podemos resolver o aquecimento global… você acha que é isso que esses caras têm em mente?”
O jovem respondeu secamente: “Provavelmente não”.
É um bom lembrete desse truísmo tecnológico: o problema nunca é a ferramenta, é sempre o usuário.
Receba uma nota diretamente de nossos correspondentes estrangeiros sobre o que está nas manchetes em todo o mundo. Inscreva-se em nosso boletim informativo semanal What in the World.
