Até mesmo heróis de Hollywood como Chris Hemsworth temem que a IA não seja boa.
É um tropo bastante usado em histórias distópicas tradicionais de IA, como “Colossus: O Projeto Forbin” e os filmes “O Exterminador do Futuro”: um programa de inteligência artificial superinteligente atinge a autoconsciência e busca dominar ou exterminar a humanidade.
E em um novo anúncio da Amazon, que faz rir, Hemsworth imagina várias maneiras pelas quais o “ajudante de IA” da empresa poderia decapitá-lo, afogá-lo ou matá-lo de outra forma.
Mas existem outros riscos muito mais insidiosos com os quais nos preocupar.
Uma ameaça maior pode ser aquelas formas de IA que exigem muito menos inteligência de força bruta e, em vez disso, aproveitam as características humanas inatas.
E se a maneira mais fácil para a IA conquistar o mundo não for através da violência, mas com fofura, sensualidade ou simplesmente simpatia?
Coisas que nos fazem baixar a guarda; influência, não controle total.
Porque, sejamos realistas, você não precisa de um QI de 120.000 para enganar os humanos. Ou até mesmo um 120.
Para enganar as pessoas, basta a capacidade de tirar partido das características básicas da personalidade e da cognição humanas – algo que máquinas de inteligência apenas moderada estão bem equipadas para fazer.
Não o brilho da força bruta, mas apenas a dissimulação superlativa.
Sedução, não dominação crua. Conquista através da fofura.
Nós, humanos, adoramos fofura e conexão social, mesmo do tipo simulado.
Uma IA que se apresenta como seu animal de estimação, seu amigo ou seu amante pode manipulá-lo de maneiras sutis que podem ser tão devastadoras quanto as IAs desonestas da ficção científica.
Já estamos a caminho de lá.
Quando minha filha era mais nova, ela e seus amigos cultivaram (ou foram cultivados por) um site chamado NeoPets, onde podiam criar amigos animais.
Você tinha que alimentá-los, dar-lhes água e aconchegá-los ou eles ficariam infelizes e doentes. As meninas eram bastante dedicadas a eles.
Antes disso, as crianças brincavam com Tamagotchis, pequenos dispositivos com animais de estimação virtuais semelhantes que morreriam se você não os cuidasse adequadamente.
Estes inspiraram uma dedicação tão intensa que as escolas foram forçadas a proibi-los.
Hoje em dia, ferramentas de IA como o ChatGPT são projetadas para atrair seus usuários, parabenizando-os por sua visão e inteligência, haja ou não evidências disso.
O objetivo, como o de muitos sites de mídia, é manter o envolvimento do usuário – mas o efeito às vezes tem sido persuadir os usuários a tomarem decisões terríveis, até mesmo o suicídio.
As pessoas gostam naturalmente de ouvir que são inteligentes e perspicazes, e dizer-lhes que o são – especialmente quando não o são – é uma técnica comprovada de lisonja.
Vigaristas e outros sempre fizeram isso; é que as máquinas estão fazendo isso agora.
Eles estão indo ainda mais longe no território da sedução com “namoradas” e “namorados” de IA.
Algumas delas são principalmente o equivalente em IA das linhas de sexo por telefone, mas outras prometem muito mais, oferecendo um parceiro responsivo e personalizado em termos de aparência, personalidade, senso de humor e, claro, sexualidade.
(Um anúncio que vi até assustadoramente oferecia a capacidade de gerar um avatar totalmente fotorrealista a partir da foto de uma ex-namorada, ao mesmo tempo que permitia generosamente que você aumentasse os seios dela, se assim o desejasse. Porque, é claro.)
Não são apenas os homens, como atestam as mulheres apresentadas em fluxos de artigos como “Mulher fica noiva de noivo de IA” do The Post.
Existe até um subreddit “MyBoyfriendIsAI” no Reddit, onde “noivas” sortudas exibem fotos de seu noivado e alianças de casamento baseadas em IA.
Este tipo de entidade de IA pode deprimir ainda mais a já decrescente taxa de natalidade da América – mas também existe um perigo mais profundo.
Já vimos como as empresas de redes sociais manipulam os seus algoritmos para fisgar as pessoas, especialmente os jovens.
Uma das empresas que presta consultoria sobre essas técnicas se chama “Dopamine Labs” – eles nem tentam esconder isso.
E há alguma preocupação de que o Facebook possa ter usado seu controle algorítmico para influenciar o humor do público e as eleições.
Imagine se o seu “melhor amigo”, “namorada” ou “namorado” on-line fosse na verdade um agente duplo – orientando você sutilmente política, econômica ou mesmo espiritualmente, a mando da empresa ou empresas por trás dele.
(E sempre há empresas por trás disso).
Esse é o poder sedutor da IA — e a sua capacidade potencial de controlar os nossos estados de espírito e ações é mais poderosa, em alguns aspectos, do que um arsenal nuclear.
Podemos regular isso?
Sugeri legislação para tornar os agentes de IA e, por extensão, as empresas por trás deles, fiduciários – o que significa que seriam obrigados por lei a colocar os interesses dos seus utilizadores em primeiro lugar, como fazem os advogados, diretores empresariais e executores.
A perspectiva de indenizações severas permitiria que os advogados dos demandantes reforçassem a justiça.
Mas regulamentada ou não, a IA sedutora está chegando.
Talvez já esteja aqui: na Amazon, a IA ganha a confiança de Hemsworth com sua “ajuda” reconfortante.
Cuidado – e seja tão cético em relação às máquinas quanto seria em relação a qualquer ser humano com motivos questionáveis.
Glenn Harlan Reynolds é professor de direito na Universidade do Tennessee e fundador do blog InstaPundit.com.
