O Papa Leão XIV está certo sobre a necessidade de fazer com que a IA responda ao bem humano – a inteligência artificial tem de estar sujeita à responsabilidade moral humana.
De quem é o sapato?
O papa adverte contra a acumulação de poder em mãos privadas:
Algumas empresas, lideradas por alguns executivos e membros do conselho, controlam o desenvolvimento da IA.
A difícil questão que “Magnifica humanitas” tenta responder é como tornar a IA responsável perante a autoridade pública e o bem comum, e não apenas os interesses dos seus criadores.
É aqui que Leo enfrenta problemas – sua visão da política é unilateral e décadas após década.
A encíclica está escrita na linguagem do liberalismo do século XX, com as Nações Unidas e os organismos internacionais a desempenharem um papel descomunal.
“As organizações internacionais, particularmente as Nações Unidas, são instrumentos essenciais para a promoção de uma civilização do amor”, escreve ele, no contexto da “negociação de regulamentos partilhados sobre o uso de tecnologias digitais, a fim de proteger os civis e os mais vulneráveis de formas de violência ‘invisíveis’ mas reais”.
Leo compara a IA à Torre de Babel, mas essa imagem aplica-se pelo menos igualmente à ONU.
Citando os ensinamentos de São João Paulo II e Pio XII, Leão afirma: “a Igreja valoriza a democracia na medida em que garante a participação efetiva dos cidadãos, permite-lhes eleger e substituir pacificamente os seus líderes e evita que o poder seja monopolizado por pequenos grupos de elite motivados por interesses particulares ou ideológicos”.
Por essa medida, quão democráticas são a maioria das organizações internacionais?
Autoridade superior
“Num mundo onde os dados, os recursos computacionais e a influência regulatória permanecem nas mãos de poucos, falar do bem comum significa expor esta nova forma de assimetria epistémica, económica e política e nomear os novos monopólios da IA”, escreve Leo.
Ouça, ouça!
O papa está absolutamente correto sobre a necessidade de transparência – se quisermos uma IA ética, temos de saber de quem é a ética que está inscrita no sistema.
As pessoas comuns precisam saber quem, nas grandes empresas de tecnologia, é responsável por ensinar essas máquinas e incutir-lhes regras, e quais são essas regras.
E o público tem de exercer o devido cepticismo sobre os resultados supostamente objectivos que as investigações da IA geram – os resultados estão em conformidade com os critérios e expectativas escolhidos por alguém.
As máquinas podem gerar as suas próprias respostas; eles não fazem seu próprio pensamento moral:
“As chamadas inteligências artificiais não passam por experiências, não possuem corpo, não sentem alegria ou dor, não amadurecem através dos relacionamentos e não sabem a partir de dentro o que significa amor, trabalho, amizade ou responsabilidade”, escreve o papa.
“Também não têm consciência moral, uma vez que não julgam o bem e o mal, não compreendem o significado último das situações, nem assumem as consequências das responsabilidades.”
Todas estas coisas devem ser fornecidas por seres humanos e, como diz o Papa, não devemos confiar que as empresas de tecnologia criarão por si só as protecções certas.
A tecnologia é tão poderosa que a sua utilização tem de ser debatida por um público bem informado e a Big Tech deve responder perante uma autoridade superior.
No entanto, Leo muitas vezes minimiza o papel dos governos nacionais eleitos neste contexto, favorecendo nebulosos “novos esforços de colaboração” entre “líderes políticos, organizações laborais, o mundo empresarial e a comunidade científica”.
Isto é consistente com a sua confiança nas cacofónicas Nações Unidas, bem como com o seu pensamento sobre “como as decisões legislativas e regulamentares impactam a dignidade do trabalho, a prosperidade partilhada, a redução da desigualdade e a protecção ambiental” no contexto da IA.
É uma miscelânea atrás da outra – uma confusão de interesses e agendas concorrentes que não podem ser focalizados a tempo enquanto a IA avança.
Tão rápido quanto a tecnologia
Leo aprecia a velocidade a que a tecnologia está a evoluir, mas não a necessidade de um “despacho” proporcional por parte da resposta política.
Um decisor político tem de ser capaz de agir rapidamente para acompanhar a IA e tem de ter uma vontade e uma voz — em suma, o que é necessário é um executivo forte apoiado pela autoridade popular de uma eleição nacional.
A era da IA tem sérias implicações para as instituições governamentais e torna a presidência mais importante do que nunca.
Não são as Nações Unidas ou uma variedade amorfa de grupos de interesse aos quais Leo precisa apelar, é o Presidente Trump.
“Magnifica humanitas” não faz isso.
O papa não iria, nem deveria, reduzir a Doutrina Social Católica para se adequar a Trump: em matéria de economia, guerra e muito mais, existem diferenças acentuadas.
No entanto, a encíclica de Leo vai além dos pontos de desacordo necessários para abraçar uma agenda amplamente liberal e internacionalista – incluindo mesmo o aquecimento global na sua lista de verificação ideológica.
Para que a regulamentação baseada no bom senso da IA tenha sucesso, não só precisa do apoio de Trump, como também do apoio dos seus eleitores.
Leo precisa aprender a falar a língua deles, se quiser impedir que a IA fuja de nossas vidas.
