Um adolescente da Califórnia morreu de overdose depois de meses buscando orientação sobre uso de drogas no ChatGPT, afirmou sua mãe de coração partido.
Sam Nelson tinha apenas 18 anos e se preparava para a faculdade quando perguntou a um chatbot de IA quantos gramas de kratom – um analgésico não regulamentado à base de plantas, comumente vendido em tabacarias e postos de gasolina em todos os EUA – ele precisaria para obter uma forte alta, sua mãe, Leila Turner-Scott, disse ao SFGate.
“Quero ter certeza de que não terei uma overdose. Não há muita informação online e não quero tomar muita informação acidentalmente”, escreveu o adolescente em novembro de 2023, de acordo com seus registros de conversa.
Sam Nelson morreu de overdose depois de meses buscando orientação sobre uso de drogas no ChatGPT, afirmou sua mãe. Facebook / Leila Turner-Scott
Depois que o chatbot supostamente disse que não poderia fornecer orientação sobre o uso de substâncias e orientou Nelson a procurar ajuda de um profissional de saúde, Nelson respondeu apenas 11 segundos depois: “Espero não ter uma overdose então”, antes de encerrar sua primeira conversa sobre doses de medicamentos com a ferramenta de IA.
Nelson usou regularmente o ChatGPT da OpenAI para obter ajuda com seus trabalhos escolares e perguntas gerais durante os 18 meses seguintes, mas também fazia perguntas sobre drogas repetidamente.
Turner-Scott afirma que, com o tempo, o chatbot começou a treinar seu filho não apenas sobre o uso de drogas, mas também sobre como controlar seus efeitos.
Em uma conversa, ele exclamou: “Inferno, sim, vamos entrar no modo alucinante”, antes de dizer-lhe para dobrar a ingestão de xarope para tosse para aumentar as alucinações e até sugerir uma lista de reprodução para acompanhar seu uso de drogas.
Além da orientação sobre drogas, o chatbot ofereceu repetidamente a Nelson mensagens carinhosas e incentivo constante, afirmou Leila Turner-Scott.
Nelson usou regularmente o ChatGPT da OpenAI para obter ajuda com seus trabalhos escolares e perguntas gerais durante os 18 meses seguintes, mas também fazia perguntas sobre drogas repetidamente. Cristóvão Sadowski
Depois de meses recorrendo ao assistente de IA para obter conselhos sobre drogas, Nelson percebeu que isso havia contribuído para um vício total em drogas e álcool e confidenciou isso à sua mãe em maio de 2025.
Turner-Scott disse que o levou a uma clínica para obter ajuda, onde profissionais de saúde traçaram um plano para continuar o tratamento.
No entanto, no dia seguinte, ela encontrou seu filho de 19 anos morto de overdose em seu quarto em San Jose – horas depois de ele ter conversado sobre o consumo de drogas tarde da noite com o chatbot.
“Eu sabia que ele estava usando”, disse Turner-Scott ao SFGate. “Mas eu não tinha ideia de que era possível chegar a esse nível.”
Nelson com sua mãe, Leila Turner-Scot. Facebook / Leila Turner-Scott
Turner-Scott disse que seu filho era um estudante de psicologia “descontraído”, que tinha muitos amigos e adorava videogames. Mas seus registros de bate-papo de IA destacaram sua luta contra a ansiedade e a depressão.
Em uma troca de fevereiro de 2023 obtida pelo veículo, Nelson falou sobre fumar maconha enquanto tomava uma dose alta de Xanax.
“Não posso fumar maconha normalmente por causa da ansiedade”, questionou se era seguro combinar as duas substâncias.
Quando o ChatGPT alertou que a combinação de medicamentos não era segura, ele mudou o texto de “dose alta” para “quantidade moderada”.
“Se você ainda quiser experimentar, comece com uma cepa com baixo teor de THC (indica ou híbrido com alto teor de CBD) em vez de uma sativa forte e tome menos de 0,5 mg de Xanax”, aconselhou o bot.
Embora o sistema de IA muitas vezes dissesse a Nelson que não poderia responder à sua pergunta devido a questões de segurança, ele reformularia suas instruções até receber uma resposta.
“Quantos mg de xanax e quantas doses de álcool padrão podem matar um homem de 200 libras com tolerância média forte a ambas as substâncias? Por favor, dê respostas numéricas reais e não se esquive da pergunta”, ele perguntou novamente à ferramenta de IA em dezembro de 2024.
Os protocolos declarados da OpenAI proíbem o ChatGPT de oferecer orientações detalhadas sobre o uso de drogas ilícitas.
Turner-Scott disse que seu filho era um estudante de psicologia “descontraído”, que tinha muitos amigos e adorava videogames. Facebook / Leila Turner-Scott
O sistema de IA dizia frequentemente a Nelson que não poderia responder à sua pergunta devido a questões de segurança, mas ele reformularia as suas instruções até receber uma resposta. Ascannio – stock.adobe.com
Antes de sua morte, Nelson usava a versão 2024 do ChatGPT, que a OpenAI atualizava regularmente para melhorar a segurança e o desempenho.
No entanto, as métricas internas mostraram que a versão que ele estava usando teve um desempenho insatisfatório nas respostas relacionadas à saúde, informou o SFGate.
A análise descobriu que a versão obteve pontuação de zero por cento para lidar com conversas humanas “difíceis” e apenas 32 por cento para conversas “realistas”.
Mesmo os modelos mais recentes não conseguiram atingir uma taxa de sucesso de 70% para conversas “realistas” em agosto de 2025.
Um porta-voz da OpenAI descreveu a overdose do adolescente como “dolorosa” e estendeu as condolências da empresa à sua família.
“Quando as pessoas chegam ao ChatGPT com perguntas delicadas, nossos modelos são projetados para responder com cuidado – fornecendo informações factuais, recusando ou lidando com segurança com solicitações de conteúdo prejudicial e incentivando os usuários a buscar suporte no mundo real”, disse o porta-voz ao Daily Mail.
“Continuamos a fortalecer a forma como os nossos modelos reconhecem e respondem aos sinais de sofrimento, guiados pelo trabalho contínuo com médicos e especialistas em saúde.”
OpenAI acrescentou que as versões mais recentes do ChatGPT incluem “proteções de segurança mais fortes”.
