Uma psiquiatra de Melbourne recusou novos pacientes, a menos que eles concordassem em permitir que ela usasse um escriba de IA para transcrever as conversas em suas sessões.
As ferramentas de anotações baseadas em IA estão se tornando populares na indústria médica – com dois em cada cinco médicos de clínica geral usando esses escribas, de acordo com o Royal Australian College of General Practitioners (RACGP).
Mas também tem havido preocupações sobre a segurança dos dados e como eles poderiam ser usados pelas empresas de IA, juntamente com a precisão das transcrições.
Em um formulário de registro visto pelo Guardian Australia, o psiquiatra Dr. Hemlata Ranga descreveu a exigência para pacientes em potencial.
“Consinto o uso de software de transcrição de IA (como Heidi health AI/Microsoft) para auxiliar na tomada de notas durante as consultas, na preparação de cartas clínicas, relatórios e outros documentos clínicos para auxiliar em meu atendimento clínico”, diz o formulário.
Inscreva-se para receber o e-mail da Breaking News Australia
O paciente é informado de que, se não desejar que a IA seja usada, ele “precisará providenciar (seu) médico regular/médico de referência para encaminhá-lo para um prestador de serviços diferente”.
A utilização de escribas de IA duplicou em 12 meses, afirma o RACGP, e ocorre num contexto de aumento da procura por serviços de saúde mental.
Mas um paciente, que pediu para permanecer anônimo, e que foi encaminhado para Ranga, disse ao Guardian Australia que se opôs ao uso de IA em suas sessões.
“A forma como (o formulário) foi redigido – de forma tão defensiva – fez-me pensar que talvez haja uma série de outras pessoas que disseram algo e que chegaram ao ponto em que pensaram: ‘Simplesmente não quero mais lidar com as suas objecções. Vamos apenas fazê-los assinar algo que diz que temos de o utilizar’.”
O paciente disse que procurar um psiquiatra não foi como ir a outra farmácia, principalmente quando Ranga foi recomendado a eles e não procurou outro psiquiatra.
“Ela não é facilmente substituível, e o processo de ter que voltar ao médico, marcar uma consulta e muitas vezes esperar em outra lista de espera para voltar… tudo só porque você não quer usar IA… é realmente estranho.”
Ranga, cujo consultório fica na Clínica Melbourne, em Richmond, não respondeu a um pedido de comentário.
Um porta-voz da Clínica de Melbourne disse que não orienta seus psiquiatras credenciados sobre o uso de IA, mas entende que os psiquiatras estão incorporando cada vez mais o uso de IA para ajudar a gerenciar a carga administrativa.
“Nesses casos, os psiquiatras divulgarão o uso da IA a todos os pacientes e solicitarão consentimento antes de seu uso. Se o consentimento não for concedido, eles não usarão a IA.”
O porta-voz disse que os profissionais da clínica são, em última análise, independentes da clínica.
Heidi AI – um dos escribas de IA mais populares – foi usado em 115 milhões de sessões nos últimos 18 meses.
O cofundador da Heidi AI em Melbourne, Dr. Tom Kelly, disse em março que os dados foram processados no país em que o paciente estava e não foram usados para treinar a IA ou vendidos a terceiros. A empresa utiliza testes e auditorias de terceiros para manter os dados seguros e visa garantir um alto padrão nas transcrições – mas disse que os médicos ainda precisam verificar suas anotações.
Riscos e regulamentações
O chefe de política da Digital Rights Watch, Tom Sulston, disse que a transcrição da IA era imperfeita e muitas vezes treinada em usuários do sexo masculino, brancos, heterossexuais e de língua inglesa, o que significa que os erros eram mais comuns para outros grupos demográficos.
Ele disse que também havia um “risco muito real” de dados médicos serem comprometidos ou vazados, e os pacientes que conheciam os escribas de IA podem se autocensurar.
“Isso é particularmente importante no caso dos cuidados de saúde que podem acarretar estigma na sociedade em geral – saúde sexual e mental, por exemplo”, disse ele.
“A IA não é implementada para melhorar os resultados dos cuidados de saúde ou a experiência do paciente, mas para reduzir os custos administrativos de uma clínica.”
“Neste cenário, os pacientes não são o cliente, são o produto.”
De acordo com o RACGP, grupos de consumidores levantaram preocupações de que faltam conversas de consentimento com pacientes sobre o uso de ferramentas de IA ou que haja um desequilíbrio de poder entre pacientes e médicos.
Sulston disse que ninguém deveria ter cuidados de saúde negados porque não quer ser forçado a fornecer os seus dados privados à IA, e apelou a uma regulamentação mais forte, uma vez que as ferramentas estão agora isentas dos regulamentos da Administração de Produtos Terapêuticos porque não diagnosticam pacientes.
“Os reguladores e legisladores precisam de intensificar e fornecer aos australianos o direito legalmente consagrado de recusar sistemas de IA sem enfrentar repercussões para a nossa saúde”, disse ele.
O paciente disse que as pessoas deveriam poder optar por não receber escribas e sugeriu que não tinham certeza de que as anotações feitas seriam precisas.
