WASHINGTON (AP) — Com centenas de milhões de pessoas recorrendo aos chatbots em busca de conselhos, era apenas uma questão de tempo até que as empresas de tecnologia começassem a oferecer programas especificamente concebidos para responder a questões de saúde.
Em janeiro, a OpenAI lançou o ChatGPT Health, uma nova versão de seu chatbot que, segundo a empresa, pode analisar registros médicos dos usuários, aplicativos de bem-estar e dados de dispositivos vestíveis para responder a perguntas médicas e de saúde. Atualmente, existe uma lista de espera para o programa. A Anthropic, uma empresa rival de IA, oferece recursos semelhantes para alguns usuários de seu chatbot Claude.
Ambas as empresas afirmam que seus programas, conhecidos como grandes modelos de linguagem, não substituem o atendimento profissional e não devem ser usados para diagnosticar condições médicas. Em vez disso, dizem que os chatbots podem resumir e explicar resultados de testes complicados, ajudar a preparar-se para uma consulta médica ou analisar tendências de saúde importantes escondidas em registos médicos e métricas de aplicações.
Aqui estão algumas coisas a considerar antes de falar com um chatbot sobre sua saúde:
Os chatbots podem oferecer informações mais personalizadas do que uma pesquisa no Google
Alguns médicos e pesquisadores que trabalharam com o ChatGPT Health e programas semelhantes os veem como uma melhoria em relação ao status quo.
As plataformas de IA não são perfeitas – por vezes podem ter alucinações ou fornecer maus conselhos – mas a informação que produzem tem mais probabilidades de ser personalizada e específica do que aquilo que os pacientes podem encontrar através de uma pesquisa no Google.
“A alternativa muitas vezes é nada, ou o paciente improvisa”, disse o Dr. Robert Wachter, especialista em tecnologia médica da Universidade da Califórnia, em São Francisco. “E então acho que se você usar essas ferramentas com responsabilidade, poderá obter informações úteis.”
Uma vantagem dos chatbots mais recentes é que eles respondem às perguntas dos usuários com base no contexto de seu histórico médico, incluindo prescrições, idade e anotações médicas.
Mesmo que você não tenha dado acesso à IA às suas informações médicas, Wachter e outros recomendam fornecer aos chatbots o máximo de detalhes possível para melhorar as respostas.
Se você estiver tendo sintomas preocupantes, pule a IA
Wachter e outros enfatizam que há situações em que as pessoas devem ignorar o chatbot e procurar atendimento médico imediato. Sintomas como falta de ar, dor no peito ou forte dor de cabeça podem sinalizar uma emergência médica.
Mesmo durante situações menos urgentes, os pacientes e os médicos devem abordar os programas de IA com “um grau de ceticismo saudável”, disse o Dr. Lloyd Minor, da Universidade de Stanford.
“Se você está falando sobre uma decisão médica importante, ou mesmo uma decisão menor sobre sua saúde, você nunca deveria confiar apenas no que obtém de um grande modelo de linguagem”, disse Minor, reitor da faculdade de medicina de Stanford.
Considere sua privacidade antes de enviar quaisquer dados de saúde
Muitos benefícios oferecidos pelos bots de IA resultam do compartilhamento de informações médicas pessoais pelos usuários. Mas é importante compreender que qualquer coisa partilhada com uma empresa de IA não está protegida pela lei federal de privacidade que normalmente rege informações médicas sensíveis.
Comumente conhecida como HIPAA, a lei permite multas e até penas de prisão para médicos, hospitais, seguradoras ou outros serviços de saúde que divulguem registros médicos. Mas a lei não se aplica a empresas que criam chatbots.
“Quando alguém carrega seu prontuário médico em um modelo de linguagem grande, isso é muito diferente de entregá-lo a um novo médico”, disse Minor. “Os consumidores precisam entender que existem padrões de privacidade completamente diferentes.”
Tanto a OpenAI quanto a Anthropic afirmam que as informações de saúde dos usuários são mantidas separadas de outros tipos de dados e estão sujeitas a proteções adicionais de privacidade. As empresas não utilizam dados de saúde para treinar seus modelos. Os usuários devem optar por compartilhar suas informações e podem se desconectar a qualquer momento.
Testes mostram que chatbots podem tropeçar
Apesar do entusiasmo em torno da IA, os testes independentes da tecnologia estão ainda na sua infância. Os primeiros estudos sugerem que programas como o ChatGPT podem ser aprovados em exames médicos de alto nível, mas muitas vezes tropeçam ao interagir com humanos.
Um estudo realizado com 1.300 participantes pela Universidade de Oxford descobriu recentemente que as pessoas que usam chatbots de IA para pesquisar hipotéticas condições de saúde não tomam decisões melhores do que as pessoas que usam pesquisas online ou julgamento pessoal.
Os chatbots de IA apresentados com cenários médicos de forma abrangente e escrita identificaram corretamente a condição subjacente em 95% das vezes.
“Esse não era o problema”, disse o autor principal Adam Mahdi, do Oxford Internet Institute. “O lugar onde as coisas desmoronaram foi durante a interação com os participantes reais.”
Mahdi e sua equipe encontraram vários problemas de comunicação. Muitas vezes as pessoas não forneciam aos chatbots as informações necessárias para identificar corretamente o problema de saúde. Por outro lado, os sistemas de IA respondiam frequentemente com uma combinação de informações boas e más, e os utilizadores tinham dificuldade em distinguir entre as duas.
O estudo, realizado em 2024, não utilizou as versões mais recentes do chatbot, incluindo novas ofertas como ChatGPT Health.
Uma segunda opinião sobre IA pode ser útil
A capacidade dos chatbots de fazer perguntas de acompanhamento e extrair detalhes importantes dos usuários é uma área onde Wachter vê espaço para melhorias.
“Acho que é quando isso vai ficar realmente bom, quando as ferramentas se tornarem um pouco mais médicas na maneira como vão e voltam” com os pacientes, disse Wachter.
Por enquanto, uma maneira de se sentir mais confiante sobre as informações que você está recebendo é consultar vários chatbots – semelhante a obter uma segunda opinião de outro médico.
“Às vezes coloco informações no ChatGPT e informações no Gemini”, disse Wachter, referindo-se à ferramenta de IA do Google. “E quando ambos concordam, sinto-me um pouco mais seguro de que essa é a resposta certa.”
___
O Departamento de Saúde e Ciência da Associated Press recebe apoio do Departamento de Educação Científica do Howard Hughes Medical Institute e da Fundação Robert Wood Johnson. A AP é a única responsável por todo o conteúdo.
