Um cliente foi retirado de sua loja local em Sainsbury’s depois que uma equipe que usou um software de reconhecimento facial o identificou erroneamente como um infrator.
Warren Rajah estava na filial de Elephant and Castle na terça-feira, quando dois membros da equipe e um segurança o escoltaram de repente para fora.
Quando o homem de 42 anos perguntou o porquê, apontou para uma placa que mostrava que a loja usava tecnologia de reconhecimento facial.
Na verdade, eles o confundiram com alguém que estava no sistema e que também havia entrado na loja ao mesmo tempo.
Os lojistas confundiram o Sr. Rajah com ele e expulsaram o homem errado.
A loja é uma das seis em Londres onde a Sainsbury’s lançou recentemente a tecnologia Facewatch, em resposta ao aumento dos roubos e da violência contra os funcionários.
O Sr. Rajah disse: ‘Então eles me disseram para ir embora. Foi o momento mais humilhante da minha vida, ser escoltado para fora do lugar onde faço compras há 10 anos, na frente da minha comunidade.’
Para provar que não tinha nenhuma condenação criminal, ele apresentou um pedido de acesso ao Facewatch, pedindo-lhes que explicassem quais dados mantinham sobre ele para acionar o alerta no Sainsbury’s.
Para isso, ele teve que enviar por e-mail uma imagem sua e uma cópia de seu passaporte, o que, segundo ele, pareceu “uma invasão massiva de minha privacidade”.
Rajah disse que o supermercado ligou para ele para se desculpar e lhe ofereceu um voucher de £ 75.
Tanto o supermercado quanto o Facewatch alegaram que não foi culpa das câmeras, mas sim de um erro humano do pessoal da loja que abordou a pessoa errada.
Warren Rajah, 42, foi levado para fora de seu Sainsbury’s local depois que a equipe cometeu um erro de reconhecimento facial
As câmeras do software escaneiam os rostos dos clientes, que são comparados com um banco de dados de infratores registrados.
Os gerentes das lojas são então alertados sobre qualquer correspondência para que possam verificar a correspondência.
No caso do Sr. Rajah, o erro foi cometido na segunda fase da verificação humana.
Sr. Rajah descreveu a provação ao Metro: “Eles vieram até mim e pediram para ver meu ‘código de barras’. Eu não sabia o que isso significava, então apenas mostrei a eles meu cartão de néctar.
‘Comecei a entrar em pânico enorme porque não sei nada sobre esta empresa ou o que eles fazem. Eles registram os crimes à medida que acontecem? Eles estão ligados à aplicação da lei? Isso impactaria minha carreira?’
Por lei, antes que qualquer informação possa ser divulgada, o Facewatch deve primeiro verificar a identidade da pessoa que faz a solicitação para garantir que ela é quem afirma ser, daí a solicitação de tais informações por parte do Sr. Rajah.
O Facewatch confirmou ao Sr. Rajah que ele não estava em seu banco de dados e foi redirecionado para o Sainsbury’s, relata a BBC.
O site da Sainsbury afirma que os primeiros resultados do software “têm sido encorajadores”, com as lojas de teste observando uma redução de 46% em roubos, danos, agressão e comportamento anti-social e 92% dos infratores não retornando.
De acordo com o site do software, ele tem 99,98% de precisão e é “a única ferramenta de prevenção ao crime que identifica proativamente criminosos conhecidos, permitindo que a equipe aja antes que o crime seja cometido”.
Em novembro, o Facewatch enviou 49.589 alertas positivos de infratores conhecidos para proteger os funcionários e ativos de seus clientes.
Facewatch confirmou ao Sr. Rajah que ele não estava em seu banco de dados
Um porta-voz da Sainsbury disse: “Entramos em contato com o Sr. Rajah para pedir desculpas sinceras por sua experiência em nossa loja Elephant and Castle.
“Este não foi um problema com a tecnologia de reconhecimento facial em uso, mas um caso em que a pessoa errada foi abordada na loja”.
Um porta-voz do Facewatch disse: ‘Lamentamos saber da experiência do Sr. Rajah e entendemos por que ela teria sido perturbadora.
“Este incidente surgiu de um caso de erro humano na loja, onde um funcionário abordou o cliente errado.
‘Nossa equipe de Proteção de Dados seguiu o processo usual para confirmar sua identidade e verificou que ele não estava em nosso banco de dados e não havia sido sujeito a nenhum alerta gerado pelo Facewatch.’
Esta não é a primeira vez que um comprador é vítima de erro humano em uma loja que utiliza tecnologia de reconhecimento facial.
Jenny, cliente da B&M, foi colocada em uma lista de observação e impedida de retornar à sua loja local em Birmingham depois de ter sido falsamente acusada de roubar anteriormente uma garrafa de vinho.
Ela disse anteriormente ao programa Today da BBC Radio 4: “É como se tivéssemos feito dos gerentes de varejo e das empresas de tecnologia juízes, júri e executores, sem o devido processo legal”.
A empresa varejista pediu desculpas e culpou o erro humano.
Outros casos envolvem uma mulher de 64 anos que foi indevidamente colocada em uma lista de observação de reconhecimento facial, acusada de roubar menos de £ 1 em paracetamol da Home Bargains e Danielle Horan, de Manchester, que foi expulsa de duas lojas diferentes após ser falsamente acusada de roubar papel higiênico.
