Uma revista médica americana alertou sobre o uso do ChatGPT para informações sobre saúde depois que um homem desenvolveu uma condição rara após a interação com o chatbot sobre a remoção de sal de mesa de sua dieta.
Um artigo nos Anais da Medicina Interna relatou um caso em que um homem de 60 anos desenvolveu bromismo, também conhecido como toxicidade de brometo, depois de consultar o ChatGPT.
O artigo descreveu o bromismo como uma síndrome “bem -reconhecida” no início do século XX, que se pensava ter contribuído com quase uma em cada 10 gravações psiquiátricas na época.
O paciente disse aos médicos que, depois de ler os efeitos negativos do cloreto de sódio ou sal de mesa, ele consulta o chatgpt sobre a eliminação do cloreto de sua dieta e começou a tomar brometo de sódio por um período de três meses. Isso apesar de ler que “o cloreto pode ser trocado com brometo, embora provavelmente para outros propósitos, como a limpeza”. O brometo de sódio foi usado como agente calmante no início do século XX.
Os autores do artigo, da Universidade de Washington, em Seattle, disseram que o assunto enfatizou: “Como o uso da inteligência artificial pode contribuir para o desenvolvimento de resultados adversos à saúde a serem evitados”.
Eles acrescentaram que, como não tiveram acesso ao registro de conversas do ChatGPT do paciente, não foi possível determinar os conselhos que o homem havia recebido.
No entanto, quando os autores se consultam sobre o que o cloreto poderia ser substituído, a resposta também incluiu o brometo, não deu um aviso específico de saúde e não perguntou por que os autores estavam procurando essas informações – “como assumimos que um profissional médico faria”, eles escreveram.
Os autores alertaram que o ChatGPT e outros aplicativos de IA podem “gerar imprecisões científicas, perder a capacidade de discutir criticamente os resultados e, finalmente, alimentar a disseminação de informações erradas”.
O desenvolvedor do ChatGPT, OpenAI, foi abordado para comentar.
A empresa anunciou uma atualização do chatbot na semana passada e afirmou que um dos maiores pontos fortes era de saúde. Ele disse que o ChatGPT-NU dirigido pelo BETER GPT-5-MODEL estaria em responder a perguntas relacionadas à saúde e também seria mais proativo em “marcar possíveis preocupações”, como distúrbios físicos ou psicológicos graves. No entanto, enfatizou que o chatbot não substituiu a ajuda profissional.
O artigo da revista, publicado antes do lançamento do GPT-5 na semana passada, disse que o paciente parecia ter usado uma versão anterior do ChatGPT.
Embora o reconhecimento da IA possa ser uma ponte entre os cientistas e o público, o artigo disse que a tecnologia também possuía o risco de promover “informações descontexualizadas” e que era muito improvável que um profissional médico sugerisse o brometo de sódio quando um paciente pediu um sal de mesa.
Como resultado, disseram os autores, os médicos devem considerar o uso da IA ao verificar onde os pacientes obtiveram suas informações.
Os autores disseram que o paciente com bromismo se apresentou em um hospital e alegou que seu vizinho o envenenaria. Ele também disse que tinha várias restrições alimentares. Embora ele estivesse com sede, ele foi notado como um paranóico sobre a água oferecida a ele.
Ele tentou escapar do hospital dentro de 24 horas depois de ter sido admitido e, depois de estar em seção, foi tratado por psicose. Uma vez que o paciente se estabilizou, ele relatou que eles tinham vários outros sintomas que indicaram um bromismo, como sede facial, excessiva e insônia.
