Um homem da Flórida está processando várias agências de aplicação da lei por sua prisão e processo por supostamente atrair uma criança depois que ela foi erroneamente identificada usando um software de reconhecimento facial de IA defeituoso.
De acordo com o departamento de polícia de Jacksonville Beach, um algoritmo retornou uma probabilidade de 93% de que Robert Dillon fosse o homem capturado pelas câmeras de segurança de um McDonald’s na cidade tentando persuadir a menina desacompanhada, com menos de 12 anos, a ir embora com ele.
Dillon, no entanto, mora em Fort Myers, a mais de 300 milhas e cinco horas de carro de distância, e disse aos detetives que nunca esteve em Jacksonville Beach em sua vida.
O caso foi arquivado e as acusações retiradas no ano passado devido ao incidente de agosto de 2024.
Agora, o homem de 52 anos entrou com uma ação judicial contra o departamento de polícia, o gabinete do xerife de Jacksonville e Bob Gualtieri, o xerife do condado de Pinellas, cuja agência mantém e opera o sistema Faces (Face Analysis Comparison and Examination) e o aluga para outras autoridades.
“(A) investigação resultou na prisão injusta e no processo de um homem inocente”, disse a União Americana pelas Liberdades Civis (ACLU) em uma ação movida em nome de Dillon na terça-feira no tribunal distrital de Fort Myers.
“O Sr. Dillon foi preso em sua casa na frente de sua esposa. Ele foi acusado de tentar atrair uma criança, uma acusação que carrega um estigma social devastador e destruição permanente de reputação. Ele foi submetido a meses de processo criminal e publicamente marcado com uma foto que permanece acessível on-line, muito depois de as acusações terem sido retiradas.
“Ele não se sente mais confortável em ser amigável com as crianças. Nenhuma agência de aplicação da lei jamais se desculpou ou reconheceu o erro.”
O processo adicional alega que o caso de Dillon é pelo menos o 15º a nível nacional a envolver uma pessoa acusada ou presa após uma identificação falsa.
Uma investigação do Guardian no mês passado descobriu que a supervisão dos sistemas de reconhecimento facial de IA era terrivelmente inadequada, no Reino Unido e noutros lugares, e que os avanços na tecnologia ultrapassavam em muito a capacidade das autoridades para a regulamentar.
“Em vez de testar a resposta da máquina contra as evidências que o teriam inocentado, os policiais construíram um caso para confirmá-la”, disse o processo de Dillon.
Identificou Scott O’Connell, o principal investigador do JBPD no caso, como tendo omitido deliberadamente “múltiplas categorias de provas de defesa facilmente verificáveis” da declaração de prisão.
O documento do tribunal disse que os leitores de placas mostraram que nenhum dos veículos de Dillon esteve perto do restaurante. Também alegou que O’Connell omitiu ao magistrado emissor do mandado de prisão que a fotografia do suspeito executada através do software Faces era uma captura de tela de baixa definição e baixa qualidade de imagens de segurança tiradas no celular de um policial, e não um upload digital da gravação em si.
Além disso, afirma o processo, O’Connell não contestou a afirmação de um funcionário do McDonald’s – que escolheu Dillon em uma lista de fotos de seis rostos semelhantes – de que o suspeito era um “cliente regular” de seu restaurante que havia visitado várias vezes nas semanas anteriores.
O’Connell sabia que Dillon morava a centenas de quilômetros de distância, segundo o processo, e sabia que isso teria sido impossível.
“Esses departamentos de polícia da Flórida querem que o Sr. Dillon faça as pazes e tome medidas sérias para garantir que isso não aconteça com mais ninguém”, disse Nate Freed Wessler, vice-diretor do projeto de discurso, privacidade e tecnologia da ACLU, em um comunicado.
“A polícia de todo o país está alerta: a tecnologia de reconhecimento facial não confiável está prejudicando as pessoas e continuaremos lutando para responsabilizá-las por esses abusos.”
Num caso separado, mas semelhante, relatado no início deste mês, Jalil Richardson, de Charlotte, Carolina do Norte, disse que foi extraditado para Jacksonville e passou quase três meses na prisão depois que o reconhecimento facial automático o colocou no local de um roubo de carro. Os cartões de ponto mostravam que ele estava trabalhando a 640 quilômetros de distância quando o roubo ocorreu.
Dillon, por sua vez, disse que ficou traumatizado com sua experiência.
“Mais de um ano depois, ainda estou juntando os pedaços da minha vida, tudo porque a polícia confiou nesta tecnologia perigosa em vez de fazer o seu trabalho e realmente investigar”, disse ele.
“A polícia da Flórida deve implementar salvaguardas e garantir que isso nunca aconteça com mais ninguém, porque até que isso aconteça, ninguém estará seguro.”
O Guardian entrou em contato com o departamento de polícia de Jacksonville Beach para comentar.