O governo do Reino Unido não inclui o uso de IA no registro obrigatório

Nenhum departamento de Whitehall registrou o uso de sistemas de IA desde que o governo disse. se tornaria obrigatórioprovocando avisos de que o sector público está a “ficar cego” relativamente à implantação de tecnologia algorítmica que afecta milhões de vidas.

O governo já está a utilizar a IA para informar decisões sobre tudo, desde pagamentos de benefícios até à fiscalização da imigração, e os registos mostram que organismos públicos adjudicaram dezenas de contratos para IA e serviços algorítmicos. Na semana passada, uma agência de compras policiais criada pelo escritório em casareacendendo preocupações sobre “vigilância biométrica em massa”.

Mas até agora apenas os detalhes de nove sistemas algorítmicos foram apresentados a um tribunal. registro públiconão incluindo nenhum de um número crescente de programas de inteligência artificial utilizados no sistema de bem-estar social, pelo Ministério do Interior ou pela polícia. A escassez de informação surge apesar de o governo ter anunciado em Fevereiro deste ano que a utilização do registo de IA seria agora “um requisito para todos os departamentos governamentais”.

Especialistas eu avisei que, se adotada de forma acrítica, a IA tem o potencial de causar danos, com exemplos recentes de sistemas de TI que não funcionam como pretendido, incluindo o software Horizon dos Correios. A IA usada em Whitehall vai desde o sistema Copilot da Microsoft, que está sendo amplamente testado, até verificações automatizadas de fraudes e erros no sistema de benefícios. Um recente anúncio de contrato de IA emitido pelo Departamento de Trabalho e Pensões (DWP) descreveu “o crescente interesse dentro do DWP, refletindo o do governo e da sociedade em geral”.

Peter Kyle, secretário de Estado da Ciência e Tecnologia, admitiu que o setor público “não levou suficientemente a sério a necessidade de ser transparente na forma como o governo utiliza algoritmos”.

Quando questionado sobre a falta de transparência, Kyle disse ao The Guardian: “Aceito que se o governo usar algoritmos em nome do público, o público tem o direito de saber. O público precisa sentir que os algoritmos existem para servi-los e não o contrário. A única maneira de fazer isso é ser transparente quanto ao seu uso.”

Big Brother Watch, um grupo de campanha pelos direitos de privacidade, disse que o surgimento do contrato de reconhecimento facial da polícia, apesar Alerta parlamentares da falta de legislação para regular o seu uso, foi “mais um exemplo da falta de transparência do governo sobre o uso da tecnologia de IA”.

“O uso secreto de IA e algoritmos para impactar a vida das pessoas coloca em risco os direitos de dados de todos. Os departamentos governamentais precisam de ser abertos e honestos sobre a forma como utilizam esta tecnologia”, afirmou Madeleine Stone, diretora de defesa de direitos.

O Ministério do Interior não quis comentar.

O Instituto Ada Lovelace alertou recentemente que os sistemas de IA podem parecer reduzir os encargos administrativos, “mas podem prejudicar seriamente a confiança pública e reduzir os benefícios públicos se as previsões ou resultados que produzem forem discriminatórios, prejudiciais ou simplesmente ineficazes”.

Imogen Parker, diretora associada do órgão de pesquisa de dados e IA, disse: “A falta de transparência não está apenas mantendo o público no escuro, mas também significa que o setor público está voando às cegas na adoção da IA. A não publicação de registos de transparência algorítmica está a limitar a capacidade do sector público de determinar se estas ferramentas funcionam, aprender com o que não funciona e monitorizar os diferentes impactos sociais destas ferramentas.

Desde o final de 2022, apenas três algoritmos foram registados no registo nacional. Este é um sistema usado pelo Gabinete para identificar registros digitais de valor histórico de longo prazo, sendo uma câmera alimentada por IA usada para analisar as travessias de pedestres em Cambridge. e um sistema para analisar as opiniões dos pacientes sobre Serviço Nacional de Saúde serviços.

Mas desde fevereiro houve 164 contratos com órgãos públicos que mencionam IA, segundo a Tussell, empresa que monitora contratos públicos. As empresas tecnológicas, incluindo a Microsoft e a Meta, estão a promover vigorosamente os seus sistemas de inteligência artificial em todo o governo. O Google Cloud financiou um relatório recente afirmando que uma maior implantação de IA generativa poderia desbloquear até £ 38 bilhões por ano em todo o setor público até 2030. Kyle chamou isso de “um poderoso lembrete de como a IA generativa pode ser revolucionária para os serviços governamentais”.

Nem todas as IA mais recentes do setor público incluem dados sobre membros do público. Um contrato de £ 7 milhões com a Câmara Municipal de Derby é descrito como “Transformando a Prefeitura usando tecnologia de IA” e um contrato de £ 4,5 milhões com o departamento de educação visa “melhorar o desempenho da IA ​​na educação”.

Um porta-voz do departamento de ciência e tecnologia confirmou que a regra de transparência “agora é obrigatória para todos os departamentos” e disse que “vários registos serão publicados em breve”.

Onde o governo já está usando IA?

• O Departamento do Trabalho e Pensões tem utilizado IA generativa para ler mais de 20.000 documentos por dia para “compreender e resumir a correspondência”, após o que a informação completa é partilhada com os funcionários para a tomada de decisões. Possui sistemas automatizados para detectar fraudes e erros em aplicações de crédito universal, e a IA ajuda os agentes que trabalham em aplicações de pagamento de independência pessoal, resumindo as evidências. Este outono, o DWP começou a implementar ferramentas básicas de IA nos centros de emprego, permitindo que os conselheiros de carreira fizessem perguntas sobre o aconselhamento de crédito universal, numa tentativa de melhorar a eficácia das conversas com os candidatos a emprego.

• O Ministério do Interior implementa um sistema de fiscalização da imigração alimentado por inteligência artificial, que os críticos chamam de “assistente social robótico”. Um algoritmo intervém na tomada de decisões, incluindo o regresso das pessoas aos seus países de origem. O governo descreve-o como um sistema “baseado em regras” e não como inteligência artificial, uma vez que não envolve aprendizagem automática a partir de dados. Ele diz que traz eficiência ao priorizar o trabalho, mas que cada decisão ainda é um ser humano. O sistema está sendo usado no meio um número crescente de casos de requerentes de asilo sujeitos a medidas de expulsão, ascende actualmente a cerca de 41 000 pessoas.

• Diversas forças policiais usam software de reconhecimento facial para localizar suspeitos de crimes com a ajuda de inteligência artificial. Estes incluem a Polícia Metropolitana, a Polícia de Gales do Sul e a Polícia de Essex. Os críticos alertaram que esse software irá “transformar as ruas da Grã-Bretanha em filas policiais de alta tecnologia”, mas os seus apoiantes dizem que ele detecta suspeitos de crimes e que os dados de transeuntes inocentes não são armazenados.

• O NHS England tem um contrato de £ 330 milhões com a Palantir para criar uma enorme nova plataforma de dados. O acordo com a empresa americana que construir infraestrutura digital habilitada para IA e é dirigido por Peter Thiel, apoiador de Donald Trump, levantou preocupações sobre a privacidade dos pacientes, embora a Palantir diga que seus clientes mantêm controle total dos dados.

• Um chatbot de IA está sendo testado para ajudar as pessoas a navegar no extenso site gov.uk do governo. Foi construído pelo serviço digital governamental usando a tecnologia ChatGPT da OpenAI. caixa vermelhaOutro chatbot de IA para uso por funcionários em Downing Street e outros departamentos governamentais também foi implantado para permitir que os funcionários se aprofundem rapidamente em documentos governamentais seguros e obtenham resumos rápidos e relatórios personalizados.