RAgora, a maioria dos grandes laboratórios de IA tem uma equipe descobrindo maneiras pelas quais a AIS desonesta pode escapar da supervisão ou secretamente agarrar entre si contra os seres humanos. Também poderíamos perder o controle da civilização de uma maneira menos dramática: ficando obsoleta. Não seria necessário conspirar para conseguir isso – isso aconteceria por padrão se a robótica e a IA continuassem melhorando. Os desenvolvedores da IA têm uma boa chance de substituir os seres humanos por quase todos os papéis que desempenhamos: economicamente, como trabalhadores, como tomadores de decisão, culturalmente, como criadores e artistas, até socialmente, como parceiros e amigos românticos. Como vamos sobreviver quando a IA for capaz de fazer tudo o que os humanos fazem, mas melhor? A longo prazo, há um enorme escopo para melhorias. Pode parecer que a IA nunca será capaz de replicar o que é único nos seres humanos. Nos últimos 20 anos, estive envolvido na pesquisa de IA e observei sua evolução, desde o simples raciocínio até a solução complexa de problemas científicos. Agora é possível lidar com habilidades que antes eram consideradas humanas únicas. Por exemplo, a capacidade de lidar com a ambiguidade e usar analogias abstratas. Essas mentes artificiais não ajudarão apenas os seres humanos, mas também enfrentarão inúmeras tarefas de maneiras pequenas e grandes. No começo, eles são mais baratos, mas, eventualmente, se tornam melhores do que nossos artistas mais talentosos. Eles serão a melhor opção para lidar com todas as tarefas principais – desde o planejamento financeiro e as decisões legais até os cuidados de saúde – uma vez que se tornarem confiáveis. Antecipando os melhores funcionários da IA no próximo ano, as empresas congelarão sua contratação. Seu trabalho consistirá cada vez mais em ouvir as sugestões de assistentes de IA encantadores e confiáveis. Seu assistente de IA poderá ajudá -lo a pensar no quadro geral enquanto ainda permite que você faça tempo para fazê -lo. O assistente de IA pode preencher espaços em branco, fornecer dados e exemplos relevantes e fazer sugestões para melhorias. Você acabará perguntando ao assistente: “O que devo fazer a seguir?” Será óbvio que você pode optar por dar sua opinião, se seu trabalho está em jogo ou não. Mesmo alguns pesquisadores de IA ficaram surpresos ao saber que modelos com recursos gerais de raciocínio, como ChatGPT ou Claude, também podem ser graciosos, diplomados e pacientes. Está claro agora que as máquinas podem aprender habilidades sociais tão bem quanto seres humanos. Os parceiros românticos movidos a IA já estão disponíveis, e os médicos da IA foram consistentemente classificados como tendo uma maneira melhor de cabeceira que os médicos humanos. Você descobrirá que os membros de sua família e os amigos têm maior probabilidade de estar colados na frente de seus computadores do que nunca. Você pode ser adiado se vir outros preferindo seus novos amigos online. Nesse caso, você pode pedir ajuda ao seu assistente de IA. A IA o ajudará com quaisquer problemas que você esteja enfrentando e o guiará a ter conversas difíceis com sua família. Os participantes poderiam relaxar após essas conversas cansativas falando com seus confidentes de IA. Talvez concordemos que algo tenha sido perdido nessa mudança para companheiros virtuais, mesmo quando começamos a encontrar contato humano cru cada vez mais irritante e tedioso em comparação.
Até agora, tão distópico. Não poderíamos optar por não usar a IA dessa maneira e, em vez disso, preferimos consultores e bens e serviços humanos feitos pelos seres humanos? É possível que a IA seja substituída em muitas áreas, e as partes que percebemos parecem representar grandes melhorias. O trabalho gerado pela IA está se tornando cada vez mais semelhante ao conteúdo criado pelo homem. Gastar o dobro em um advogado, terapeuta ou professor humano, metade da eficaz, dificultará a justificação. As organizações que optam por trabalhadores humanos lentos e caros perderão para aqueles que escolhem IA rápida, barata e confiável.
Não podemos confiar nos governos para lidar com esses problemas à medida que ocorrem? Eles também terão incentivos semelhantes para confiar na IA. Políticos e funcionários públicos também perguntarão a seus assistentes virtuais: “O que devo fazer?” E encontrarão envolvendo humanos na tomada de decisões para ser uma receita para atraso, mal-entendidos e brigas.
Os teóricos políticos às vezes falam sobre a “maldição de recursos”, onde países com abundantes recursos naturais acabam mais autocráticos e corruptos – a Arábia Saudita e a República Democrática do Congo são bons exemplos. Acredita -se que a abundância de recursos naturais torna um estado mais independente de seus cidadãos. É então tentador que os estados ignorem completamente os cidadãos. Por que investir em educação e saúde quando o capital humano fornece retornos piores? A possibilidade mais assustadora é que possamos achar isso perfeitamente racional.
Uma vez que a inteligência artificial puder fazer tudo o que os cidadãos são capazes de fazer, os governos não estarão sob muita pressão para prover seu povo. É um fato brutal que a democracia nasceu por necessidade e estabilidade econômica. Esses direitos serão inúteis quando o AIS for usado para financiar governos em vez de tributar os cidadãos e começam a substituir os seres humanos por AIS na qualidade e eficiência do nome. Mesmo os últimos recursos, como ataques trabalhistas ou agitação civil, se tornarão gradualmente ineficazes contra frotas de drones policiais autônomos e vigilância automatizada.
A possibilidade mais perturbadora é que tudo isso possa parecer perfeitamente razoável para nós. Em sua forma primitiva, os AIs farão argumentos persuasivos, engraçados e sofisticados para convencer as pessoas de que nossa relevância decrescente é o progresso. Os direitos da IA se tornarão a nova questão dos direitos civis. O campo “Humanity First” será pintado como estando do lado errado da história.
Eventualmente, sem ninguém ter planejado ou escolhido, todos podemos nos encontrar lutando para manter dinheiro, influência e até relevância. Embora ainda seja possível, esse novo mundo seria mais humano e amigável em muitos aspectos. A AIS poderia lidar com tarefas irritantes e oferecer melhores produtos e serviços, como medicina e entretenimento. Os seres humanos desacelerariam o crescimento e não poderíamos defendê -los se os direitos democráticos começassem a corroer. A resposta a esta pergunta é assustadoramente não. Dario Amodei, da Antrópica e Sam Altman, da IA aberta, concorda que precisaremos reorganizar a economia quando o trabalho humano não for mais competitivo. Ninguém sabe como isso seria. Alguns economistas, como o ganhador do Nobel Joseph Stiglitz, alertaram que a IA poderia levar os salários humanos a zero. Mas muitos não estão dispostos a considerá -lo outra coisa senão um complemento do nosso trabalho. E enquanto alguns economistas como o ganhador do Nobel Joseph Stiglitz soaram o alarme de que a IA poderia gerar salários humanos a zero, muitos parecem não querer considerar que poderia ser algo diferente de um complemento ao trabalho humano.
C
O que podemos fazer para evitar nosso poder gradual? Primeiro, precisamos começar a falar sobre isso. Essa enorme questão foi amplamente ignorada por jornalistas, acadêmicos e outros líderes de pensamento. É um tópico que acho difícil de contemplar. Parece fraco e humilhante dizer: “Estou com medo do futuro porque não poderei competir”. Parece insultuoso dizer: “Você deve ficar preocupado porque será irrelevante”. E parece derrotado dizer: “Seus filhos podem herdar um mundo que não tem um lugar para eles”. É compreensível que as pessoas curtos-circuitos de demissões como “Certamente terei sempre uma vantagem especial?” ou “Quem sou eu para atrapalhar o progresso?”
Uma idéia óbvia é não construir a IA de uso geral. A desaceleração de seu desenvolvimento pode ser possível, mas fazê-lo globalmente e por um longo tempo exigirá controle totalitário ou coordenação mundial para demolir grandes partes da indústria de fabricação de chips. Um grande perigo com esse caminho é que os governos possam proibir o desenvolvimento privado de IA, mas ainda o desenvolvê -lo para fins militares e de policiamento, adiando nossa obsolescência, mas desmotando -nos muito antes.
Se começarmos a ver sinais de uma crise, precisamos ser capazes de intervir e pelo menos desacelerar as coisas,
Se não conseguirmos interromper o desenvolvimento da IA, há pelo menos quatro coisas que ainda ajudariam. Deveríamos primeiro rastrear a influência e o uso da IA em nossa economia e também dentro do governo. O Índice Econômico Recente do Antrópico é uma tentativa disso, mas ainda há muito mais a ser feito. O Índice Econômico da Anthropic, lançado em 2017, é uma tentativa de fazer isso. No entanto, ainda há muito mais coisas a serem feitas. Confiamos apenas em ações voluntárias e não temos a capacidade de trabalhar juntos para impedir que a AIS autônoma ganhe poder ou comandando recursos significativos. Se começarmos a ver sinais de uma crise, precisamos ser capazes de intervir e desacelerar as coisas, especialmente nos casos em que indivíduos e grupos se beneficiam de coisas que prejudicam a sociedade em geral.
Terceiro, podemos usar a IA para fortalecer a capacidade das pessoas de organizar e defender por si mesmas. Se construirmos planejamento, previsão e negociações apoiadas pela IA, poderemos projetar e implementar instituições mais confiáveis. Por exemplo, os mercados de previsão condicional e as previsões apoiadas pela IA podem tornar mais claro para onde o mundo está indo sob diferentes políticas, ajudando a resolver perguntas como “Se essa política for feita lei, como o salário humano médio mudará três anos daqui a três anos?” A experimentação com mecanismos democráticos apoiados pela IA nos permitirá protótipo de modelos de governança mais responsivos que serão necessários para um mundo mais rápido.
Finalmente, se queremos construir IA poderosa sem ser marginalizados, temos a tarefa gigantesca de aprender a dirigir nossa civilização, em vez de apenas deixar os sistemas políticos evoluir de acordo com as pressões que eles enfrentarem. Não há problema em desmoronar até recentemente, pois os seres humanos são necessários em qualquer caso. Não estaremos seguros, a menos que entendamos completamente a dinâmica de poder, crescimento e concorrência. Esse campo emergente, às vezes chamado de “alinhamento do ecossistema”, pode se basear em economia, história e teoria dos jogos para nos ajudar a entender que tipos de futuros podemos esperar realisticamente. Quanto mais entendemos para onde estamos indo e coordenando melhor nossos esforços, maiores são as chances de criar um mundo onde a IA não seja uma ameaça para os seres humanos, mas um parceiro e protetor. Como está, estamos correndo para construir nossas próprias substituições.
David Duvenaud é professor associado de ciência da computação na Universidade de Toronto e co-diretor do Instituto Schwartz Reisman de Tecnologia e Sociedade. Ele agradece a Raymond Douglas, Nora Ammann, Jan Kulveit e David Krueger por ajudar a escrever este artigo.
Leitura adicional
A próxima onda de Mustafa Suleyman e Michael Bhaskar (vintage, PS10.99)
O último trabalho humano de Allison J Pugh (Princeton, PS25)O precipício de Toby Ord (Bloomsbury, PS12.99)
