A polícia prendeu um homem por roubo em uma cidade que ele nunca havia visitado, depois que um software de digitalização facial implantado em todo o Reino Unido o confundiu com outra pessoa de ascendência do sul da Ásia.
Alvi Choudhury, 26 anos, engenheiro de software, estava trabalhando na casa que divide com seus pais em Southampton, em janeiro, quando a polícia bateu em sua porta, algemou-o e manteve-o sob custódia por quase 10 horas antes de libertá-lo às 2h.
A polícia de Thames Valley usou um software automatizado de reconhecimento facial que o combinou com imagens de um suspeito de um roubo de £ 3.000 a 160 quilômetros de distância, em Milton Keynes, de acordo com documentos compartilhados com o Guardian pela Liberty Investigates.
Mas as imagens da CCTV mostraram um homem visivelmente mais jovem, com características diferentes, além do cabelo encaracolado semelhante, disse Choudhury, que ficou confuso sobre o motivo de ter sido preso.
“Fiquei muito zangado, porque o garoto parecia 10 anos mais novo que eu”, disse Choudhury, que usa barba. “Tudo era diferente. A pele era mais clara. O suspeito parecia ter 18 anos. Seu nariz era maior. Ele não tinha pêlos faciais. Seus olhos eram diferentes. Seus lábios eram menores que os meus.
“Acabei de presumi que o investigador viu que eu era uma pessoa morena com cabelos cacheados e decidiu me prender.”
As forças policiais do Reino Unido usam um algoritmo adquirido pelo Ministério do Interior da Cognitec, uma empresa alemã. Ele realiza cerca de 25 mil pesquisas mensais em cerca de 19 milhões de fotos policiais mantidas no banco de dados nacional da polícia do Reino Unido. As correspondências faciais devem ser tratadas como inteligência e não como factos, de acordo com o Conselho Nacional de Chefes de Polícia. A polícia do Vale do Tâmisa disse que a decisão de prender Choudhury também foi tomada após uma avaliação visual humana.
Mas foi revelado em Dezembro que a tecnologia produz uma taxa muito mais elevada de falsos positivos para rostos negros (5,5%) e asiáticos (4,0%) do que para rostos brancos (0,04%) em determinados ambientes, de acordo com uma investigação encomendada pelo Ministério do Interior. A polícia e os comissários do crime alertaram para o “preconceito inerente” e disseram que, embora “não haja provas de impacto adverso em qualquer caso individual, isso é mais uma questão de sorte do que de intenção”.
Desde dezembro, a polícia de Thames Valley também tem implantado tecnologia de reconhecimento facial ao vivo para escanear o público em locais em Oxford, Slough, Reading, Wycombe e Milton Keynes. Capturou cerca de 100.000 rostos, levando a seis prisões.
Dadas as diferenças entre o homem na CCTV e o seu próprio rosto, Choudhury presumiu que seria libertado rapidamente. Ele apresentou provas de reuniões de trabalho em Southampton no dia do crime, mas foi levado sob custódia.
Choudhury está reivindicando indenização contra a polícia de Thames Valley e a polícia de Hampshire, que executou sua prisão. Seus vizinhos o viram sendo levado algemado, seu pai estava muito ansioso com a possibilidade de ele ser detido e ele não pôde trabalhar no dia seguinte, disse ele. Ele também pede maior transparência sobre o número de prisões injustas envolvendo tecnologia de reconhecimento facial.
A foto de Choudhury foi mantida no sistema policial apenas porque ele foi preso injustamente em 2021, quando foi atacado em uma noitada enquanto estava na universidade em Portsmouth. A polícia o libertou sem nenhuma ação adicional. Agora que ele tirou uma segunda foto, ele teme que o sistema automatizado possa desencadear mais prisões injustas.
“Na minha cabeça, se uma pessoa morena na Escócia roubar um banco, eles virão e me prenderão?” ele disse.
Às vezes, ele precisa de autorização de segurança para trabalhar para clientes do governo e é questionado sobre prisões e diz: “Isso me faz parecer cada vez mais astuto”.
A polícia do Vale do Tâmisa admitiu a Choudhury que a prisão “pode ter sido resultado de preconceito na tecnologia de reconhecimento facial”. Mas um responsável disse-lhe que “como a utilização do reconhecimento facial já está sujeita a revisão a nível estratégico, não sinto necessidade de levantar esta questão como parte de uma aprendizagem organizacional mais ampla”.
Um porta-voz da polícia de Thames Valley negou que a prisão fosse ilegal e disse: “Embora peçamos desculpas pela angústia causada ao queixoso neste caso, a prisão foi baseada na avaliação visual dos próprios agentes investigadores de que o indivíduo correspondia ao suspeito nas imagens CCTV após uma correspondência retrospectiva de reconhecimento facial, e não foi influenciado pelo perfil racial”.
Mas Choudhury disse que os policiais da delegacia de Hampshire riram quando ele perguntou: “Isso se parece comigo?” E ele disse que os policiais de Thames Valley que chegaram para entrevistá-lo disseram “eles sabiam que eu não era o suspeito depois de ver a filmagem do suspeito e minha foto”.
Alertas foram levantados repetidamente sobre o uso de tecnologia automatizada de reconhecimento facial. Em Dezembro de 2024, o comissário de biometria e câmaras de vigilância do Reino Unido, William Webster, manifestou preocupação pelo facto de a polícia continuar a reter e utilizar imagens de pessoas que, tendo sido detidas, nunca foram posteriormente acusadas ou intimadas. No mês passado, a polícia de Gales do Sul pagou indenização a um homem negro que foi preso injustamente e detido por 13 horas após a tecnologia de reconhecimento facial.
O advogado de Choudhury, Iain Gould, sócio da DPP Law, disse que a polícia “deve garantir que a inteligência artificial não seja substituída pela inteligência humana e pela devida diligência, mas em vez disso seja usada em parceria cuidadosa com ela”.
O Ministério do Interior disse que a orientação e o treinamento para minimizar erros e manter a confiança do público no reconhecimento facial retrospectivo estavam sendo revisados pela Inspetoria de Polícia. Afirmou que um novo sistema nacional de correspondência facial está em desenvolvimento, com um algoritmo melhorado e testado de forma independente.
