Sos drones do futuro com tecnologia de IA deveriam ter licença para matar? A questão torna-se cada vez mais premente à medida que os governos e a indústria de defesa reconhecem que os sistemas de drones desempenharão um papel cada vez mais crucial nas guerras futuras.
Com os drones a serem implantados em grande número na guerra da Ucrânia e a IA a ser usada para ajudar missões de bombardeamento no conflito do Irão, há uma expectativa entre alguns observadores de que as armas terão de operar com maior autonomia operacional, o que significa que precisarão de algo que se aproxime de um quadro moral.
No ano passado, Mustafa Suleyman, executivo-chefe do braço de IA da Microsoft e cofundador da DeepMind, com sede no Reino Unido, foi inequívoco sobre a questão das máquinas que tomam decisões morais. Ele disse: “As IAs não podem ser pessoas – ou seres morais”.
David Omand, antigo chefe da agência de espionagem do Reino Unido, GCHQ, disse ao Guardian que acredita que a IA pode criar uma configuração “moral” para armas não tripuladas, enquanto o ministro das forças armadas do Reino Unido, Al Carns, disse recentemente ao Financial Times que deve haver uma opção para “tirar o humano do circuito” na tomada de decisões. Isto coloca em foco o desafio ético e tecnológico de saber se a moralidade pode ser programada num sistema de armas autónomo.
Zee Talat, um académico especializado em aprendizagem automática na Escola de Informática da Universidade de Edimburgo, argumenta que os grandes modelos de linguagem – a tecnologia que sustenta os modernos sistemas generativos de IA, como os chatbots – são fundamentalmente incapazes de tomar decisões morais.
Os sistemas de IA são treinados com base em grandes quantidades de dados que lhes permitem construir um modelo probabilístico de qual é a próxima palavra ou frase mais provável numa sequência. Não é assim que os humanos tomam decisões morais e éticas, diz Talat, mesmo que o modelo tenha ingerido todos os tratados filosóficos conhecidos pela humanidade.
“Se tivermos uma máquina que é probabilística por natureza, ela irá desviar-se para a resposta mais provável numa situação. Achamos que a moralidade segue noções probabilísticas?” diz Talat, que recentemente foi coautor de um artigo que argumenta que a avaliação ética é um “processo sociopolítico aberto e baseado em debate”, que a IA não consegue acompanhar.
Andrew Rogoyski, do Instituto de IA Centrada nas Pessoas da Universidade de Surrey, diz que os sistemas de IA se tornaram muito mais sofisticados desde a chegada do ChatGPT em 2022 – como mostra o surgimento dos chamados modelos de “raciocínio”. No entanto, serão capazes de replicar as nuances da tomada de decisões morais?
“A moralidade é profundamente complexa, contestada, moldada culturalmente e é algo que a maioria dos humanos nunca resolve totalmente, mesmo para si próprios”, diz ele. “Talvez a verdadeira questão seja se compreendemos a moralidade suficientemente bem para a codificar. Até que o façamos, não podemos esperar que as máquinas incorporem algo que nós próprios não conseguimos articular claramente.”
Isto leva à questão de saber se é possível ter um código moral universalmente reconhecido para armas autónomas. Programar a moralidade em drones é problemático, de acordo com Jessica Dorsey, professora assistente de direito internacional na Universidade de Utrecht, na Holanda. As suas preocupações incluem determinar a moralidade que o drone segue, um processo difícil, dado que as Nações Unidas ainda estão a tentar alcançar um consenso global sobre a governação autónoma de armas.
Há também a questão de como programar um sistema de IA para distinguir entre um combatente e um civil. O Artigo 57 das Convenções de Genebra – uma série de tratados internacionais que regulam a condução da guerra – afirma que os combatentes devem fazer “tudo o que for possível para verificar se os objectivos a serem atacados não são nem civis nem objectos civis… mas são objectivos militares”.
Se você não acertar a lei, acabará repetindo decisões erradas em grande escala se drones alimentados por IA forem implantados em massa, diz Dorsey.
“A guerra está repleta de muitas variáveis e é um dado adquirido que as coisas vão correr mal. E quando isso acontece à velocidade da IA, é difícil desvendar”, diz ela.
Mas alguns especialistas argumentam que dar maior autonomia aos drones e programar-lhes regras de envolvimento e moralidade será uma necessidade se outros Estados-nação continuarem a desenvolver e implementar tecnologia semelhante a um ritmo acelerado.
“Para que qualquer militar possa competir eficazmente contra outros militares de ponta, será necessária uma grande quantidade de sistemas que serão obrigados a tomar decisões por conta própria”, afirma Nicholas Wright, neurocientista e autor de Warhead, um livro sobre o cérebro humano e a guerra.
Os drones alimentados por IA ainda são uma tecnologia nascente e, apesar do entusiasmo da indústria tecnológica, existem apenas exemplos limitados da sua implantação no campo de batalha. Mais de 100 startups nos EUA e na Europa estão agora construindo drones e plataformas de software para drones. Eles variam de drones leves e de baixa altitude, projetados para geração de imagens e vigilância, até aeronaves mais pesadas, projetadas para transportar armas. Mas as empresas que os constroem – e preveem a guerra do futuro – têm opiniões fortemente contraditórias sobre como poderá ser a sua tomada de decisões em guerras futuras.
“A moralidade é domínio dos seres humanos, e é por isso que os sistemas de armas assistidos por IA precisam ser construídos de uma forma que amplie o julgamento e a tomada de decisões do operador, em vez de substituí-los em massa”, diz Olaf Hichwa, cofundador da Neros, uma startup americana de drones.
Para Hichwa, os drones não substituirão os decisores humanos, mas melhorarão as capacidades dos seus pilotos humanos.
“Muitas pessoas estão olhando para a autonomia de forma um tanto incorreta. Eles não estão olhando para isso através dos olhos do usuário. Eles estão dizendo: vamos fazer sistemas de armas totalmente autônomos”, diz ele.
“Mas a realidade da guerra é que ainda é uma interação entre humanos.”
Uma utilização da IA na guerra, diz ele, poderá ser a redução da carga cognitiva das pessoas que têm de operar aeronaves como os drones FPV (visão em primeira pessoa) – pequenas embarcações muito utilizadas no conflito na Ucrânia que transmitem uma visão do campo de batalha aos seus pilotos humanos através de uma ligação de vídeo. Num cenário, um drone poderia guiar-se sozinho durante a “última milha” de uma missão.
“Um exemplo de autonomia é… neste momento, os pilotos exigem muito treinamento muito preciso para fazer o drone viajar no ângulo certo. Alguma autonomia pode ser o usuário ou o humano definir um caminho geral e o drone seguir esse caminho.”
Jon Gruen, presidente-executivo da Fortem Technologies, que constrói sistemas de defesa contra drones, tem uma visão diferente. Ele salienta que os EUA já utilizam sistemas de defesa autónomos para interceptar drones e mísseis que chegam, e que a IA é utilizada “totalmente” em muitos destes casos, na identificação de alvos e, por vezes, no lançamento de uma arma contra eles.
“Quando você detecta algo, você precisa identificá-lo. Essa identificação agora é feita de forma autônoma, em sua maior parte.”
A mesma tecnologia pode agora ser usada para lançar uma arma, diz ele, incluindo quando disparar uma arma e depois guiá-la até ao seu alvo.
Alex Fink, presidente-executivo norte-americano da Swarmer, uma startup EUA-Ucrânia que desenvolve software para drones autónomos, diz que poderá haver um cenário futuro em que os humanos poderão não selecionar alvos individuais, mas em vez disso designar uma “caixa de morte”, na qual qualquer coisa numa determinada área, num determinado momento, é um jogo justo para um sistema autónomo atingir.
“Um humano certifica esta área, não há amigos e garanto que não haverá amigos nos próximos 15 minutos. Qualquer veículo nesta área é pré-aprovado para este período de tempo”, diz Fink.
“Se um ser humano for capaz de assumir essa responsabilidade, sabendo que não haverá amigos, nem espectadores nesta área, então esse tipo de missão é possível.”
Mas se a tecnologia existe, o consenso moral e jurídico não existe.