As câmaras policiais equipadas com inteligência artificial foram treinadas para detectar os rostos de cerca de 7.000 pessoas numa lista de vigilância de “alto risco” na cidade canadiana de Edmonton, num teste ao vivo para determinar se a tecnologia de reconhecimento facial, rejeitada por ser demasiado intrusiva, poderia ter um lugar no policiamento em toda a América do Norte.
Mas seis anos depois de o principal fabricante de câmaras corporais, Axon Enterprise, Inc., ter afirmado que a utilização de tecnologia de reconhecimento facial pela polícia suscitava sérias preocupações éticas, o projecto-piloto – iniciado na semana passada – está a levantar alarmes muito além de Edmonton, a cidade mais a norte do continente, com mais de 1 milhão de habitantes.
Um ex-presidente do conselho de ética de IA da Axon, que levou a empresa a abandonar temporariamente o reconhecimento facial em 2019, disse à Associated Press que está preocupado com o fato de a empresa sediada no Arizona estar avançando sem debate público suficiente, testes e avaliação especializada sobre os riscos sociais e implicações de privacidade.
Um projeto piloto que introduz câmeras policiais equipadas com inteligência artificial que estão sendo treinadas para detectar os rostos de cerca de 7.000 pessoas em uma lista de vigilância na cidade canadense de Edmonton, foi iniciado na semana passada. PA
“É essencial não utilizar estas tecnologias, que têm custos e riscos muito reais, a menos que haja alguma indicação clara dos benefícios”, disse o antigo presidente do conselho, Barry Friedman, hoje professor de direito na Universidade de Nova Iorque.
O fundador e CEO da Axon, Rick Smith, afirma que o piloto de Edmonton não é um lançamento de produto, mas uma “pesquisa de campo em estágio inicial” que avaliará o desempenho da tecnologia e revelará as salvaguardas necessárias para usá-la de forma responsável.
“Ao testar em condições do mundo real fora dos EUA, podemos recolher conhecimentos independentes, reforçar os quadros de supervisão e aplicar esses conhecimentos a avaliações futuras, inclusive dentro dos Estados Unidos”, escreveu Smith numa publicação no blogue.
O objetivo do piloto é ajudar a tornar os policiais de patrulha de Edmonton mais seguros, permitindo que suas câmeras usadas no corpo detectem qualquer pessoa que as autoridades classificaram como tendo uma “bandeira ou advertência” para categorias como “violento ou agressivo; armado e perigoso; armas; risco de fuga; e infrator de alto risco”, disse Kurt Martin, superintendente interino do Serviço de Polícia de Edmonton. Até agora, essa lista de observação tem 6.341 pessoas, disse Martin em entrevista coletiva em 2 de dezembro. Uma lista de observação separada acrescenta 724 pessoas que têm pelo menos um mandado criminal grave, disse ele.
“Queremos realmente ter certeza de que o alvo seja direcionado para pessoas com ofensas graves”, disse Ann-Li Cooke, diretora de IA responsável da Axon.
Se o piloto se expandir, poderá ter um efeito importante no policiamento em todo o mundo. A Axon, uma empresa de capital aberto mais conhecida pelo desenvolvimento do Taser, é o fornecedor dominante de câmeras corporais nos EUA e tem cada vez mais oferecido-as a agências policiais no Canadá e em outros lugares. A Axon derrotou no ano passado seu concorrente mais próximo, a Motorola Solutions, com sede em Chicago, em uma tentativa de vender câmeras corporais para a Polícia Montada Real Canadense.
A Motorola afirmou em comunicado que também tem a capacidade de integrar tecnologia de reconhecimento facial em câmeras corporais policiais, mas, com base em seus princípios éticos, “se absteve intencionalmente de implantar esse recurso para identificação proativa”. Não descartou usá-lo no futuro.
O governo de Alberta, em 2023, exigiu câmaras corporais para todas as agências policiais da província, incluindo a sua capital, Edmonton, descrevendo-as como uma medida de transparência para documentar as interacções policiais, recolher melhores provas e reduzir os prazos para a resolução de investigações e reclamações.
Embora muitas comunidades nos EUA também tenham acolhido as câmaras corporais como uma ferramenta de responsabilização, a perspectiva de reconhecimento facial em tempo real para identificar pessoas em locais públicos tem sido impopular em todo o espectro político. A reação dos defensores das liberdades civis e uma conversa mais ampla sobre a injustiça racial ajudaram a pressionar a Axon e as grandes empresas de tecnologia a interromper as vendas de software de reconhecimento facial à polícia.
Entre as maiores preocupações estavam estudos que mostravam que a tecnologia era falha, demonstrando resultados tendenciosos por raça, sexo e idade. Ele também não combinava rostos com tanta precisão em feeds de vídeo em tempo real quanto em rostos posando para carteiras de identidade ou fotos policiais.
“Queremos realmente ter certeza de que o alvo seja direcionado para pessoas com ofensas graves”, disse Ann-Li Cooke, diretora de IA responsável da Axon. PA
Vários estados dos EUA e dezenas de cidades tentaram restringir o uso do reconhecimento facial pela polícia, embora a administração do presidente Donald Trump esteja agora a tentar bloquear ou desencorajar os estados de regulamentar a IA.
A União Europeia proibiu a tecnologia policial de digitalização facial pública em tempo real em todo o bloco de 27 países, exceto quando usada para crimes graves, como sequestro ou terrorismo.
Mas no Reino Unido, que já não faz parte da UE, as autoridades começaram a testar a tecnologia nas ruas de Londres há uma década e utilizaram-na para fazer 1.300 detenções nos últimos dois anos. O governo está considerando expandir seu uso em todo o país.
Muitos detalhes sobre o piloto de Edmonton não foram divulgados publicamente. A Axon não cria seu próprio modelo de IA para reconhecimento de rostos, mas se recusou a dizer qual fornecedor terceirizado ela usa.
A polícia de Edmonton diz que o piloto continuará até o final de dezembro e apenas durante o dia.
“Obviamente escurece muito cedo aqui”, disse Martin. “As condições de iluminação, as nossas temperaturas frias durante o inverno, todas essas coisas irão influenciar o que estamos a ver em termos de uma prova de conceito bem-sucedida.”
Martin disse que cerca de 50 policiais que pilotam a tecnologia não saberão se o software de reconhecimento facial correspondeu. As saídas serão analisadas posteriormente na estação. No futuro, porém, poderá ajudar a polícia a detectar se há uma pessoa potencialmente perigosa por perto, para que possa pedir ajuda, disse Martin.
Isso só deveria acontecer se os policiais iniciarem uma investigação ou estiverem respondendo a uma chamada, e não simplesmente enquanto caminham no meio de uma multidão. Martin disse que os policiais que atendem a uma chamada podem mudar suas câmeras do modo de gravação passivo para o ativo com imagens de alta resolução.
“Queremos realmente respeitar os direitos dos indivíduos e os seus interesses de privacidade”, disse Martin.
O escritório da comissária de informação e privacidade de Alberta, Diane McLeod, disse que recebeu uma avaliação de impacto na privacidade da polícia de Edmonton em 2 de dezembro, mesmo dia em que Axon e autoridades policiais anunciaram o programa. O escritório disse na sexta-feira que agora está trabalhando para revisar a avaliação, um requisito para projetos que coletam dados pessoais de “alta sensibilidade”.
O professor de criminologia da Universidade de Alberta, Temitope Oriola, disse que não está surpreso que a cidade esteja experimentando o reconhecimento facial ao vivo, visto que a tecnologia já é onipresente na segurança de aeroportos e outros ambientes.
“Edmonton é um laboratório para esta ferramenta”, disse Oriola. “Pode muito bem acabar sendo uma melhoria, mas não temos certeza disso.”
Oriola disse que o serviço policial tem tido uma relação por vezes “gélida” com os seus residentes indígenas e negros, especialmente depois do tiroteio fatal da polícia contra um membro da comunidade do Sudão do Sul no ano passado, e resta saber se a tecnologia de reconhecimento facial torna o policiamento mais seguro ou melhora as interacções com o público.
A Axon enfrentou repercussões em suas implantações de tecnologia no passado, como em 2022, quando Friedman e sete outros membros do conselho de ética de IA da Axon renunciaram em protesto contra preocupações sobre um drone equipado com Taser.
Nos anos desde que a Axon optou pelo reconhecimento facial, Smith, o CEO, diz que a empresa “continuou a pesquisa controlada e baseada em laboratório” de uma tecnologia que “se tornou significativamente mais precisa” e agora está pronta para ser testada no mundo real.
Mas a Axon reconheceu em comunicado à AP que todos os sistemas de reconhecimento facial são afetados por “fatores como distância, iluminação e ângulo, que podem impactar desproporcionalmente a precisão para indivíduos de pele mais escura”.
Cada partida requer revisão humana, disse Axon, e parte de seus testes também consiste em “aprender que treinamento e supervisão os revisores humanos devem ter para mitigar os riscos conhecidos”.
Friedman disse que a Axon deveria divulgar essas avaliações. Ele gostaria de ver mais evidências de que o reconhecimento facial melhorou desde que seu conselho concluiu que não era confiável o suficiente para justificar eticamente seu uso em câmeras policiais.
Friedman disse que também está preocupado com o fato de as agências policiais darem luz verde ao uso da tecnologia sem deliberação dos legisladores locais e testes científicos rigorosos.
“Não é uma decisão a ser tomada simplesmente pelas agências policiais e certamente não pelos vendedores”, disse ele. “Um piloto é uma ótima ideia. Mas é suposto haver transparência, responsabilidade. … Nada disso está aqui. Eles estão apenas indo em frente. Eles encontraram uma agência disposta a ir em frente e estão simplesmente indo em frente.”
