Um chefe de polícia admitiu que a inteligência artificial usada para impulsionar o combate ao crime conterá preconceitos, mas prometeu combater os riscos.
Os trabalhistas querem uma expansão dramática do uso da IA pela polícia na Inglaterra e no País de Gales, com os chefes de polícia também acreditando que isso poderia ajudar a manter a aplicação da lei atualizada com novas ameaças criminais.
Alex Murray disse ao Guardian que um novo centro nacional de IA da polícia reconheceria os riscos de preconceito e os minimizaria.
A parcialidade na utilização da IA no policiamento pode resultar em casos em que os algoritmos – muitas vezes treinados em dados históricos que reflectem preconceitos humanos do passado – produzem sistematicamente resultados injustos, como a segmentação excessiva de comunidades minoritárias ou a identificação incorrecta de indivíduos com base na raça, género ou estatuto socioeconómico.
Murray, diretor de liderança de ameaças da Agência Nacional do Crime e líder nacional de IA, disse: “Depois de reconhecer e minimizar (preconceito), como treinar policiais para lidar com os resultados para garantir que sejam ainda mais minimizados?
“Se você falar sobre reconhecimento facial ao vivo ou policiamento preditivo, haverá preconceito e você precisará contratar cientistas e engenheiros de dados para limpar os dados, treinar o modelo adequadamente e depois testá-lo.
“Não faz sentido liberar algo para o policiamento que contenha preconceitos que não sejam reconhecidos, e tudo deve ser feito para minimizá-los a um nível onde possam ser compreendidos e mitigados.”
Exemplos de preconceito já surgiram no uso policial do reconhecimento facial retrospectivo, que é alimentado por IA. É aí que um suspeito é comparado com um banco de dados de imagens após um crime.
Alex Murray, da Agência Nacional do Crime.
O reconhecimento facial ao vivo, que é mais polêmico e menos utilizado pelo policiamento, caça suspeitos em tempo real e também contém preconceitos. Um relatório de Dezembro concluiu que um sistema retrospectivo de reconhecimento facial utilizado pela polícia tinha sido utilizado com salvaguardas inadequadas.
A Associação de Comissários da Polícia e do Crime (APCC), que supervisiona as forças locais em Inglaterra e no País de Gales, afirmou: “As falhas do sistema são conhecidas há algum tempo, mas não foram partilhadas com as comunidades afetadas, nem com as principais partes interessadas do setor”.
O líder da ciência forense da APCC, Darryl Preston, que é o comissário da polícia e do crime de Cambridgeshire, disse: “A descoberta de um preconceito embutido no sistema de reconhecimento facial retrospectivo do banco de dados nacional da polícia, mesmo que apenas em circunstâncias limitadas, demonstra a necessidade de supervisão independente dessas ferramentas poderosas.
“Não é aceitável que a tecnologia seja usada a menos e até que tenha sido exaustivamente testada para eliminar preconceitos. Esse claramente não foi o caso neste caso.”
O novo centro nacional de IA, que custa 115 milhões de libras, teria como objetivo reduzir o preconceito, disse Murray, bem como avaliar e decidir quais produtos de fornecedores privados funcionam. Actualmente, cada uma das forças em todo o Reino Unido toma as suas próprias decisões, o que é visto como lento e um desperdício.
Murray disse que a polícia estava em uma “corrida armamentista” com criminosos que usavam a tecnologia: “Qualquer pessoa com imaginação pode usar IA”.
Num caso, um pedófilo alegou que as imagens que o mostravam envolvido no abuso de crianças eram falsas, o que a polícia teve de refutar para o condenar.
Murray disse que os benefícios da IA vão muito além do “clichê em torno do Relatório Minoritário e do policiamento preditivo”.
Ele acrescentou que, em uma série de crimes e desafios enfrentados pelo policiamento, a IA varia de uma ajuda a uma mudança de jogo, mas um policial humano terá que tomar as decisões finais sobre o que fazer com os resultados que a IA produz.
Ele disse que isso poderia ajudar a polícia a lidar com agitadores políticos que infectam as redes sociais com imagens falsas para tentar desencadear violência nas ruas.
Com o tempo, disse Murray, isso poderia ajudar nas caçadas humanas, ou acelerar as buscas por carros ligados a suspeitos e economizar as centenas de horas que os detetives levam para vasculhar extensas imagens de CCTV, ou acelerar a busca de dispositivos digitais apreendidos de suspeitos na busca por evidências incriminatórias.
“O que levou dias, semanas, às vezes meses pode levar horas”, disse ele.
Num caso recente, quatro suspeitos baseados em Luton foram detidos por ataques e roubos de caixas multibanco. A polícia baixou os dados dos telefones dos suspeitos e, graças à IA, garantiu a confissão de culpa em semanas.
Os dados estavam em romeno e a IA analisou-os, traduziu-os, identificou o material relativo a potenciais crimes, identificou as ofensas e apresentou tudo num pacote para detetives.
Trevor Rodenhurst, chefe da polícia de Bedfordshire, disse ao Guardian: “Isto permitiu-nos extrair provas de muitos dispositivos com uma vasta quantidade de dados, o que de outra forma não teríamos sido capazes de fazer”.
Rodenhurst disse que à medida que os agentes utilizam a IA e percebem os seus benefícios, a visão da linha da frente está a mudar: “Eles já não suspeitam, estão a perguntar quando poderão tê-la. Essa capacidade é transformadora”.
