Você poderia pensar que seria uma péssima ideia pedir uma consulta médica a um chatbot de IA, mas centenas de milhões de pessoas fazem isso todas as semanas.
Num exemplo de quase morte agora objeto de uma ação judicial, o ChatGPT aconselhou um pastor a ignorar os sintomas de uma embolia pulmonar – uma condição com uma taxa de mortalidade de 30%. Na verdade, o conselho que ofereceu muito provavelmente piorou as coisas…
Os chatbots de IA podem ser úteis de várias maneiras, mas usá-los como substitutos de uma consulta médica não é uma delas. Mesmo usá-los no lugar de uma pesquisa no Google é desaconselhável, dado seu histórico de alucinações confiantes.
No entanto, mesmo os próprios registros da OpenAI mostram que literalmente centenas de milhões de pessoas fazem perguntas sobre saúde ao ChatGPT todas as semanas. da mesma forma, uma análise de pesquisas no Copilot da Microsoft descobriu que as questões de saúde eram uma das mais frequentes no aplicativo móvel.
Se você precisasse de alguma evidência das possíveis consequências de confiar em um chatbot para aconselhamento médico, uma ação judicial movida por um pastor da Flórida fornece um exemplo esclarecedor. O New York Times relata que ele está processando a OpenAI depois que ChatGPT lhe disse que não precisava se preocupar com sintomas de embolia pulmonar.
O processo alega que ChatGPT garantiu a Scott Winters que os primeiros sinais de alerta de sua crise de saúde “não eram algo perigoso” e o dissuadiu de procurar aconselhamento médico, em vez disso, disse-lhe para confiar que “Deus não projetou seu corpo para falhar indefinidamente”.
ChatGPT aconselhou que ele deveria simplesmente descansar. Não só desaconselhava a procura de ajuda médica, como permanecer imóvel durante longos períodos é a pior coisa que se pode fazer nestas circunstâncias – e falo como alguém que sofreu uma embolia pulmonar após um voo de 12 horas com uma perna partida, numa época em que os riscos disso eram conhecidos pelos investigadores, mas ainda não comunicados aos pacientes.
Quando Winters foi finalmente internado numa unidade de cuidados intensivos, os médicos disseram que os seus sintomas provavelmente reflectiam uma série de embolias pulmonares, exacerbadas pelas semanas que passou sentado imóvel enquanto seguia as recomendações do ChatGPT.
É relatado que Winters estava usando GPT-4o, um modelo ChatGPT mais antigo conhecido por suas respostas bajuladoras. Isso provavelmente desempenhou um papel nas referências à confiança em Deus, mas seja qual for o modelo de IA que você estiver usando, não deixe que ele lhe dê conselhos médicos.
Foto de Ben Wicks no Unsplash
FTC: Usamos links de afiliados automotivos para geração de renda. Mais.