Quando Ian Clayton, um profissional aposentado de saúde e segurança de Chester, apareceu no Home Bargains em um almoço de fevereiro, foi subitamente chamado de volta por um membro da equipe de aparência severa.
“Com licença, você pode largar tudo e sair da loja agora?” ela disse. Clayton lembrou-se de como ficou atordoado, e foi só quando passou rapidamente pelas caixas registradoras em direção à saída que parou para perguntar o que havia feito.
“Você apareceu em nosso sistema chamado Facewatch como um ladrão de lojas”, foi a resposta. “Há um pôster na janela.” Com isso, ele ficou sozinho do lado de fora da loja, com um código QR para escanear e sem ideia do que havia acontecido.
Ian Clayton do lado de fora da loja Home Bargains, onde foi acusado de furto. Fotografia: Christopher Thomond/The Guardian
Ele é uma das várias pessoas que falaram com o Guardian depois de ter sido falsamente identificado como ladrão por lojas que usam o Facewatch, um sistema de reconhecimento facial ao vivo que está sendo implementado em todo o Reino Unido para reprimir o crime no varejo.
O site da empresa afirma que seu sistema tem uma taxa de precisão de 99,98% e que no mês passado enviou 50.288 alertas de “infratores conhecidos” para lojas como B&M, Home Bargains, Sports Direct, Farm Foods e Spar, que agora usam o software.
Mas aqueles que foram erroneamente identificados e forçados a abandonar as lojas, seja através da própria tecnologia ou por erro humano, dizem que não receberam qualquer apoio e não sabiam como reclamar do seu tratamento ou provar a sua inocência.
Clayton, 67, disse que depois de ser expulso da Home Bargains, ele tentou ligar para um número de telefone em um pôster do Facewatch e recebeu uma mensagem dizendo que a empresa não atendia ligações e que ele teria que enviar um e-mail.
Ele só conseguiu obter respostas depois de enviar uma solicitação de acesso do sujeito – uma solicitação formal de informações pessoais de acordo com as leis de proteção de dados – que revelou que ele havia sido associado incorretamente a um incidente de furto em uma visita anterior à loja.
“Era como se eu fosse culpado até ser provado inocente. É uma sensação horrível. Deixa um buraco no estômago e quando olho para trás agora posso sentir isso de novo”, disse ele.
“Parece muito orwelliano. Estamos constantemente sendo gravados e colocados nesses sistemas, mas será que deveríamos estar lá? É como espionar sem motivo. Estou hiperconsciente das câmeras em todos os lugares agora, estou tão consciente delas.”
A Home Bargains acabou por emitir-lhe um pedido de desculpas e um voucher de £ 100 como um “gesto de boa vontade sem admissão”, com a condição de que os detalhes do incidente permanecessem confidenciais. Clayton recusou: “Eu apenas pensei: ‘Sério, você está tentando comprar meu silêncio?’”
À medida que o reconhecimento facial se espalha pelas forças policiais e lojas de retalho, os comissários de biometria do Reino Unido alertam que a supervisão nacional está muito atrasada em relação à rápida expansão da tecnologia.
No ano passado, o Ministério do Interior admitiu que as câmaras de reconhecimento facial eram mais propensas a identificar incorretamente pessoas negras e asiáticas do que as suas homólogas brancas, e as mulheres mais do que os homens, e tem havido estudos conflitantes sobre a sua precisão geral.
Warren Rajah disse que a tecnologia estava afetando os direitos civis das pessoas
Warren Rajah, um estrategista de dados no sul de Londres, foi convidado a largar sua cesta de compras e sair da loja Sainsbury’s local depois de ser informado de que havia acessado o sistema Facewatch em fevereiro.
“Para mim, esta é uma questão de direitos civis na qual estamos avançando lentamente, porque se você for removido sem questionar, seus direitos civis serão afetados”, disse ele.
“Já vivemos em um país que tem problemas com racismo, é um problema inevitável. E sabemos que as câmeras não conseguem captar características de pessoas com traços mais escuros com tanta precisão. E isso pode estar acontecendo com pessoas que são muito mais vulneráveis do que eu.”
Um esquema piloto de reconhecimento facial está sendo realizado em Londres. Fotografia: Alicia Canter/The Guardian
Ele disse que tinha grandes preocupações com a implantação desta tecnologia nas forças policiais, bem como no setor varejista.
“Quem está regulamentando essas empresas e podemos confiar nossas informações a elas? E o mais importante, ninguém realmente definiu qual é o seu recurso quando algo dá errado”, disse ele.
Depois de inúmeros e-mails, ele finalmente descobriu que não estava no sistema de banco de dados Facewatch e que membros da equipe o identificaram incorretamente. Foi-lhe oferecido um voucher de £ 75 como desculpa – quando disse que não se sentia confortável em voltar à loja, foi-lhe dito para usá-lo online.
Jennie Sanders, 48 anos, de Birmingham, estava navegando na B&M em uma tarde de sábado do ano passado, quando um segurança lhe disse que ela havia sido sinalizada no sistema Facewatch e que ele teve que acompanhá-la pela loja para verificar se ela não estava roubando.
Jennie Sanders foi escoltada para fora de uma filial da B&M como resultado da tecnologia de reconhecimento facial. Fotografia: Andrew Fox/The Guardian
“Fiquei muito chateada. Foi na frente de um monte de gente e fiquei muito envergonhada. Eu disse que queria ir embora e ele me acompanhou para fora da loja”, disse ela.
“Foi assustador, mas o que foi mais assustador foi quando cheguei em casa e comecei a pesquisar o Facewatch, vi que eles compartilhavam as informações entre vários varejistas.
“Pensei: ‘Serei tratado como um ladrão em todas as lojas. Nunca mais poderei fazer compras pessoalmente'”.
Ela foi informada de que deveria enviar uma cópia de seu passaporte ao Facewatch para provar sua identidade antes que pudesse descobrir que estava sendo acusada de roubar uma garrafa de vinho da B&M, o que ela disse nunca ter acontecido.
A B&M disse a ela que não tinha mais nenhuma evidência, incluindo imagens de CCTV do dia, então ela foi retirada do sistema e ofereceu um voucher de £ 25.
“Tirei alguns dias de folga do trabalho, estava absolutamente fora de mim. Por que estava em um banco de dados de criminosos sem meu conhecimento?” ela disse. “Nunca mais vou entrar na B&M. Tento ficar longe de lugares com câmeras – isso realmente me afetou.”
Os comissários de biometria do Reino Unido alertam que a supervisão está muito atrasada em relação à rápida expansão da tecnologia. Fotografia: Leon Neal/Getty Images
Sanders disse que reclamou ao Information Commissioner’s Office (ICO), o órgão de fiscalização formal que monitora como as informações pessoais estão sendo usadas na tecnologia de reconhecimento facial, mas sete meses depois ela ainda não teve resposta.
Ela acrescentou: “Disseram-nos para apresentar queixas e enviar toda a correspondência ao comissário de informação, mas eles não respondem. O que diabos está acontecendo com qualquer tipo de resposta às vítimas disso?”
Rajah também considerou reclamar com a OIC, mas não conseguiu encontrar informações sobre como fazê-lo.
“Eles são tão desdentados”, disse ele. “E esta questão foi bem divulgada, e eles não publicaram um processo formal de reclamações. Onde está essa informação? Como você pode reclamar quando não há caminhos a seguir?”
Um porta-voz da Sainsbury disse: “Pedimos sinceras desculpas ao Sr. Rajah por sua experiência em nossa loja Elephant and Castle. Isso não foi um problema com a tecnologia de reconhecimento facial em uso, mas um caso de abordagem da pessoa errada na loja.
“O sistema Facewatch tem uma taxa de precisão de 99,98% e todas as partidas são revisadas por treinadores treinados, com treinamento adicional fornecido após este incidente para garantir que nossas salvaguardas sejam seguidas de forma consistente.”
Nick Fisher, presidente-executivo da Facewatch, disse: “Estamos cientes dos assuntos mencionados e, em cada caso, agimos prontamente assim que contataram a equipe de proteção de dados da Facewatch.
“Esses casos estão relacionados a erros humanos na forma como os processos foram realizados na loja, e não a qualquer falha da tecnologia do Facewatch. Lamentamos que esses indivíduos tenham sido desafiados durante as compras e entendemos por que isso teria sido perturbador.
“Estes três erros são casos extremamente raros quando vistos no contexto dos mais de 500.000 alertas que enviamos aos retalhistas todos os anos, mas reconhecemos que qualquer erro é perturbador para o indivíduo em causa. O sistema foi concebido para apoiar, e não substituir, a tomada de decisão humana.”
Um porta-voz da OIC disse: “Reconhecemos os danos e transtornos que podem ser causados por erros de identificação. Por esta razão, o uso da tecnologia de reconhecimento facial deve cumprir rigorosamente a lei de proteção de dados e ser tratado com cuidado e transparência.
“Se alguém tiver dúvidas sobre como seus dados foram coletados, usados ou compartilhados, e essas preocupações não puderem ser resolvidas diretamente com o varejista, essa pessoa tem o direito de fazer uma reclamação conosco.
“Também continuamos a regulamentar ativamente nesta área e publicaremos mais orientações centradas no retalho para apoiar os retalhistas na compreensão e cumprimento das suas obrigações de proteção de dados, garantindo ao mesmo tempo que o público está devidamente protegido.”
A Home Bargains e a B&M não quiseram comentar.
