Por Darius Tahir para KFF Health News
John McGing não conseguiu alcançar um humano. Isso pode ser comercial como de costume nessa economia, mas não era negócios; Ele chamou a Administração da Seguridade Social, onde as perguntas geralmente não são genéricas e os chamadores tendem a ser americanos mais velhos, desativados ou vulneráveis.
McGing, chamando em nome de seu filho, tinha uma pergunta nas águas: como impedir os pagamentos em excesso que o governo federal poderia recuperar mais tarde. Sua ligação foi interceptada por um chatbot de inteligência artificial.
Não importa o que ele disse, as respostas enlatadas com papéis de botão para perguntas genéricas, não a obscura consulta de McGing. “Se você fizer uma imprensa de teclas, ela não fez nada”, disse ele. Eventualmente, o bot “falhou ou o que for” e o levou a um agente.
Foi um incidente pequeno, mas revelador. Sem o conhecimento de McGing, ex -funcionário da Seguridade Social em Maryland, ele havia encontrado uma ferramenta tecnológica recentemente introduzida pela agência. Ex -funcionários e observadores de longa data da agência dizem que o governo Trump lançou um produto que foi testado, mas considerado ainda pronto durante o governo Biden.
“Com o novo governo, eles são iguais, vamos resolvê-lo mais tarde, com o qual não concordo, porque você vai gerar muita confusão”, disse Marcela Escobar-Alava, que atuou como diretor de informações da Seguro Social do presidente Joe Biden.
Relacionado | Dentro do sonho de febre da AI do governo Trump
Cerca de 74 milhões de pessoas recebem benefícios do Seguro Social; 11 milhões desses recebem pagamentos de incapacidade. Em uma pesquisa realizada no outono passado, mais de um terço dos beneficiários disseram que não seriam capazes de pagar necessidades como alimentos, roupas ou moradias sem ela. E, no entanto, a agência está derramando os funcionários que os atendem: cerca de 6.200 deixaram a agência, disse seu comissário aos legisladores em junho, e os críticos no Congresso e em outros lugares dizem que isso levou a um pior atendimento ao cliente, apesar dos esforços da agência para construir novas tecnologias.
Pegue o novo bot do telefone. Pelo menos alguns beneficiários não gostam: a página do Facebook da Seguro Social é, de tempos em tempos, marcada com críticas negativas do bot não cooperativo, como a agência disse em julho que quase 41% das chamadas são atendidas pelo bot.
Os legisladores e os ex-funcionários da agência preocupam que prenuncie uma seguridade social menos humana, na qual a IA apressada substitui funcionários experientes e empurrados.
Ansiedades nas linhas do partido
A preocupação com a direção da agência é bipartidária. Em maio, um grupo de republicanos da Câmara escreveu à Administração da Seguridade Social expressando apoio à eficiência do governo, mas advertindo que seus constituintes haviam criticado a agência por “atendimento inadequado ao cliente” e sugerindo que algumas medidas podem ser “excessivamente pesadas”.
O comissário da agência, Frank Bisignano, ex -executivo de Wall Street, é um entusiasta da tecnologia. Ele tem uma lista de lavanderia de iniciativas sobre as quais gastar os US $ 600 milhões em dinheiro novo na solicitação de orçamento fiscal de 2026 do governo Trump. Ele ficou irritado quando perguntado se seus planos significam que ele estará substituindo a equipe humana pela IA.
“Você se referiu ao SSA em um pessoal de todos os tempos baixo; também está em uma alta tecnológica de todos os tempos”, ele se aproximou de um democrata em uma audiência da Câmara no final de junho.
Relacionado | Outra escolha estelar de Trump admite que teve para pesquisar no Google seu novo show
Mas ex -funcionários do Seguro Social são mais ambivalentes. Em entrevistas com a KFF Health News, as pessoas que deixaram a agência – algumas falando sob a condição de anonimato por medo de retribuição do governo Trump e de seus apoiadores – disseram acreditar que o novo governo simplesmente apressou as tecnologias desenvolvidas, mas ainda não foram prontas pelo governo Biden. Eles também disseram que a demissão de milhares de funcionários da agência resultou na perda de tecnólogos experientes que estão melhor equipados para lançar essas iniciativas e abordar suas fraquezas.
“A nova ferramenta de telefone da IA da Seguro Social está tornando ainda mais difícil para as pessoas obter ajuda por telefone-e quase impossível se alguém precisar de um intérprete ou tradutor de linguagem de sinais americana”, disse a senadora Elizabeth Warren (D-Mass.) Disse a KFF Health News. “Deveríamos tornar isso o mais fácil possível para as pessoas obterem o Seguro Social que ganharam”.
Os porta -vozes da agência não responderam a perguntas da KFF Health News.
O uso da IA para automatizar o atendimento ao cliente é uma das empresas mais agitadas do Vale do Silício. Em teoria, a nova geração de tecnologias de inteligência artificial pode responder suavemente, em uma voz humana, para praticamente qualquer pergunta. Não é assim que o bot da Administração da Seguridade Social parece funcionar, com os usuários relatando respostas enlatadas e não relacionadas.
O governo Trump eliminou algumas estatísticas on-line que obscurecem seu verdadeiro desempenho, disse Kathleen Romig, ex-funcionário da agência que agora é diretora de política de segurança social e deficiência no centro de esquerda sobre orçamento e prioridades políticas. O site antigo mostrou que a maioria dos chamadores esperou duas horas para uma resposta. Agora, o site não mostra os tempos de espera, para consultas por telefone (uma vez que o tempo de espera de retorno de chamada é contabilizado) ou agendamento de consultas.
Enquanto as estatísticas estão sendo publicadas que os beneficiários do programa recebem ajuda – ou seja, usando o Bot AI ou o site da agência para realizar tarefas como obter um cartão de substituição – Romig disse que acha que é uma “visão muito distorcida” em geral. As revisões do bot da IA geralmente são pobres, disse ela.
Os líderes e funcionários da agência que trabalharam pela primeira vez no produto da IA durante o governo Biden anteciparam esses tipos de dificuldades. Escobar-Alava disse que eles haviam trabalhado em tal bot, mas queria limpar os dados de política e regulamentação em que se deperia primeiro.
“Queríamos garantir que a automação produzisse respostas consistentes e precisas, que levariam mais tempo”, disse ela. Em vez disso, parece que o governo Trump optou por apresentar o bot primeiro e solucionar problemas mais tarde, disse Escobar-Alava.
Romig disse que um ex -executivo disse a ela que a agência havia usado perguntas frequentes em lata sem modificações ou nuances para acomodar situações individuais e estava monitorando a tecnologia para ver o desempenho dela. Escobar-Alava disse que ouviu da mesma forma.
A automação poderia ajudar?
Para Bisignano, a automação e os serviços da Web são as maneiras mais eficientes de ajudar os beneficiários do programa. Em uma carta a Warren, ele disse que os líderes da agência “estão transformando a SSA em uma agência digital que atende aos clientes onde desejam ser atendidos”, fazendo alterações que permitem que a grande maioria das chamadas seja atendida de maneira automatizada ou com uma chamada humana devolva a chamada do cliente.
O uso desses métodos também alivia os encargos em escritórios de campo sitiados, escreveu Bisignano.
Alterar a experiência telefônica não é o fim dos sonhos técnicos de Bisignano. A agência pediu ao Congresso cerca de US $ 600 milhões em financiamento adicional para investimentos, que ele pretende usar para agendamento on -line, detectar fraudes e muito mais, de acordo com uma lista enviada à casa no final de junho.
Mas especialistas externos e ex -funcionários disseram que Bisignano exagerou a novidade das idéias que ele apresentou ao Congresso. A agência atualiza sua tecnologia há anos, mas isso não significa necessariamente que milhares de seus trabalhadores são subitamente obsoletos, disse Romig. Não é ruim que as atualizações continuem, disse ela, mas o progresso tem sido mais incremental do que revolucionário.
Algumas mudanças se concentram em espalhar o rosto público da agência. Bisignano disse aos legisladores da Câmara que supervisionou um redesenho da página de estatística de desempenho da agência para enfatizar o número de chamadas automatizadas e enfatizar as estatísticas sobre os tempos de espera de chamada. Ele chamou as últimas estatísticas de “desencorajador” e sugeriu que exibi -las on -line poderia dissuadir os beneficiários de ligar.
Relacionado | Acontece que a IA de baixa qualidade não pode realmente substituir os trabalhadores do governo
Warren disse que Bisignano disse a ela em particular que permitiria uma “auditoria do inspetor geral” de seus dados de qualidade de serviço do cliente e se comprometeu a disponibilizar uma lista de informações de desempenho disponível publicamente. Desde então, a agência atualizou sua página de estatísticas de desempenho.
Outras mudanças teriam a maior custo e esforço. Em abril, a agência lançou um programa de autenticação de segurança para alterações de depósito direto, exigindo que os beneficiários verifiquem pessoalmente sua identidade se o que a agência descreveu nos documentos regulatórios como um sistema de análise “automatizado” detecta anomalias.
De acordo com documentos que acompanham a proposta, a agência estimou que cerca de 5,8 milhões de beneficiários seriam afetados – e que custaria ao governo federal quase US $ 1,2 bilhão, impulsionado principalmente pelo tempo de equipe dedicado a ajudar os requerentes. A agência está pedindo quase US $ 7,7 bilhões no próximo ano fiscal para a folha de pagamento em geral.
Christopher Hensley, consultor financeiro em Houston, disse que um de seus clientes o ligou em maio, depois que seu banco mudou seu número de roteamento e a seguridade social parou de pagar, forçando -a a pedir dinheiro emprestado a sua família.
Aconteceu que a agência havia sinalizado sua conta por fraude. Hensley disse que teve que viajar 30 minutos para o escritório de segurança social mais próximo para verificar sua identidade e corrigir o problema.
