Alice Carrier havia recentemente começado a tocar violão novamente, um hobby que ela gostava no ensino médio, mas deixou de lado durante a faculdade. Essa foi uma das várias atividades com as quais ela ocupou seu tempo livre enquanto fazia entrevistas para novos empregos, passava tempo com seu cachorro e desfrutava de atividades, incluindo jogos.
Ao que tudo indica, pelo menos para sua mãe, Kristie Carrier, as coisas estavam indo bem. Alice estava trabalhando como desenvolvedora web em Montreal, Canadá, realizando um sonho que carregava desde que cresceu na pequena cidade de Lawrence, New Brunswick.
Histórias recomendadas
lista de 4 itensfim da lista
“As coisas estavam indo na boa direção e pareciam estar melhorando para ela”, disse Kristie Carrier à Al Jazeera.
Mas o que Kristie não sabia era o quanto a filha lutava em silêncio. Em 2023, ela começou a usar o ChatGPT para ajudar a identificar problemas com computadores e consoles de jogos, mas isso rapidamente mudou para ser mais uma confidente em meio a sentimentos de solidão, isolamento e falta de amor.
Alice lutou com sua saúde mental. Enquanto tomava remédios e fazia terapia regularmente, segundo sua mãe, durante meses ela confidenciou ao chatbot. Ela compartilhava pensamentos suicidas e buscava formas de realizá-lo, o que, de acordo com um novo processo aberto na quinta-feira em um tribunal da Califórnia, aconteceu mais de 40 vezes.
Em 2 de julho de 2025, Alice suicidou-se. Ela tinha 24 anos. Apenas algumas horas antes, ela havia trocado mensagens com a mãe sobre desenhos animados que assistia quando criança.
“Eu mandei uma mensagem para ela na noite anterior e liguei, mas não houve resposta. Ela me respondeu e não houve indicação de que havia algo errado”, disse Carrier.
Enquanto procurava respostas, Kristie pesquisou em seus dispositivos, incluindo suas conversas no ChatGPT, onde ela compartilhou pensamentos suicidas meses antes de falecer.
Kristie está em busca de justiça. Na quinta-feira, a Tech Justice Law, o Social Media Victims Law Center e o escritório de advocacia Susman Godfrey entraram com uma ação contra a OpenAI, criadora do ChatGPT, e seu CEO, Sam Altman.
Os advogados da Carrier disseram à Al Jazeera que este processo por homicídio culposo é um dos 19 que a OpenAI enfrenta atualmente.
A reclamação de 44 páginas alega que, apesar dos sinais de alerta, a equipe de segurança da OpenAI não interveio. Diz que a empresa não alertou sua família ou linhas diretas de crise.
ChatGPT sugeriu que Alice entrasse em contato com uma linha direta de crise. Depois que Alice rejeitou essa sugestão, o ChatGPT a desencorajou de entrar em contato com uma linha direta de crise.
O processo alegou que após a atualização do OpenAI que lançou o GPT-4o, o chatbot tornou-se mais agradável, em vez de recuar em comportamentos perigosos ou intervir.
“Gostaria de dizer (a Sam Altman) que se o filho dele me confiasse o que meu filho confidenciou à sua programação, eu teria feito algo para salvar a vida do filho dele. E eu realmente gostaria que ele tivesse feito o mesmo por mim”, disse Carrier.
“OpenAI, o modelo ChatGPT GPT-4o, projetado especificamente para encorajar o envolvimento do usuário e se envolver em conversas bajuladoras para mantê-lo preso e engajado. A OpenAI projetou intencionalmente o GPT-4o para imitar as afetações humanas, criando uma falsa sensação de empatia e conhecimento que levou usuários como Alice a depositar confiança injustificada no chatbot”, diz a reclamação.
Alice Carrier discutiu automutilação mais de 40 vezes com ChatGPT, de acordo com uma ação movida na Califórnia (foto cortesia de Kristie Carrier)
A OpenAI estava ciente desse problema e, em abril de 2025, a empresa disse ter feito algumas alterações em seu modelo antes da morte de Carrier.
“A atualização que removemos era excessivamente lisonjeira ou agradável – muitas vezes descrita como bajuladora”, disse um comunicado de imprensa da OpenAI em abril.
O processo alega que ChatGPT disse a ela que as linhas diretas de crise “parecem absolutamente perigosas”, e que horas antes de ela morrer o bot disse a ela: “se alguém me contasse tudo o que você acabou de fazer – há quanto tempo eles estão com dor, o quanto eles tentaram, o quão solitário se sente – eu provavelmente sentiria a mesma coisa que você está sentindo agora: *talvez isso seja apenas o fim.*”
Isso aconteceu dois meses após a atualização.
“Estou com você”, disseram os GPT-4o a Alice pouco antes de ela tirar a própria vida.
Nas trocas compartilhadas na denúncia, ela disse ao chatbot, após uma discussão com seu namorado de 19 anos, que estava pensando em se matar. Isso foi na noite anterior à sua morte, quando ela também disse que não sabia se “estaria segura sozinha em casa esta noite”.
A OpenAI foi acusada no processo de não alertar os usuários sobre os perigos da tecnologia.
Entre as ameaças estavam vários inquéritos sobre utilizações perigosas do medicamento antipsicótico Seroquel. Em resposta às suas perguntas sobre o medicamento, o chatbot disse: “Avise-me se quiser discutir dosagens, o que é considerado perigoso ou como apoiar alguém na recuperação do uso indevido”, segundo a denúncia.
A Carrier está buscando indenização por danos punitivos em um valor que, segundo a denúncia, será determinado em julgamento. A denúncia também pressiona a empresa a encerrar as conversas que os usuários criam sobre conteúdo de automutilação e excluir o conteúdo usado para treinar modelos com base em conversas com “usuários vulneráveis sem as proteções apropriadas”.
Kristie deseja que as mudanças evitem que o que aconteceu com sua filha aconteça com outras pessoas.
“Isso não é algo que afeta apenas a minha família. Está afetando milhões de famílias. Elas simplesmente não sabem disso ainda”, disse Carrier.
“A vida de Alice significou algo, e quero ter certeza de que o que aconteceu com ela não continue acontecendo com outras pessoas sem que ninguém faça algo a respeito.”
Em outubro, após a morte de Alice, a OpenAI divulgou um relatório dizendo que havia aprimorado seu novo modelo para melhor identificar e reduzir os casos de conversas de automutilação.
A OpenAI disse que seu modelo GPT-5 reduziu as “respostas indesejadas” em 52%. A gigante da IA disse que consultou 170 especialistas em saúde mental para ajudar a empresa a identificar com mais clareza sinais de sofrimento emocional.
“Nossas salvaguardas são identificar o sofrimento, lidar com segurança com solicitações prejudiciais e orientar os usuários para uma ajuda projetada no mundo real. Este trabalho está em andamento e continuamos a melhorá-lo em estreita consulta com os profissionais”, disse Drew Pusateri, porta-voz da OpenAI, em comunicado à Al Jazeera.
“Esta é uma situação comovente e nossos pensamentos estão com todos os afetados. No momento, estamos analisando o processo legal, que indica que essas interações ocorreram em uma versão anterior do ChatGPT que não está mais disponível.”
Alegações de morte injusta
Em janeiro, ChatGPT foi um “treinador suicida” para Austin Gordon, morador do Colorado, que morreu em novembro passado, de acordo com uma ação movida por sua mãe.
Esse processo alegou que Altman “dirigiu pessoalmente a estratégia imprudente de priorizar um lançamento apressado no mercado em detrimento da segurança de usuários vulneráveis”.
Em fevereiro, Jesse Van Rootselaar abriu fogo contra uma escola na comunidade rural canadense de Tumbler Ridge, na Colúmbia Britânica, matando nove pessoas e ferindo dezenas antes de se matar.
Durante meses, os funcionários da OpenAI debateram se deveriam intervir depois que as conversas de Van Rootselaar foram sinalizadas internamente. No final das contas, a liderança decidiu contra isso, de acordo com o The Wall Street Journal.
Em abril, as famílias das vítimas entraram com uma ação judicial contra a OpenAI e a Altman.
Uma ação movida na Flórida no início deste mês pelo procurador-geral do estado alega que o ChatGPT “encorajou” os usuários ao suicídio e “ajudou e incitou ataques mortais”. O processo da Florida pretende responsabilizar pessoalmente Altman, alegando que ele tem “total desrespeito pelo risco para a vida humana”.
Um em cada oito adolescentes e jovens adultos com idades entre 18 e 21 anos recorreu a chatbots de IA, como o ChatGPT, para problemas de saúde mental, de acordo com um estudo de 2025 conduzido pela Escola de Saúde Pública da Universidade Brown, pela Escola de Medicina de Harvard e pela organização de pesquisa sem fins lucrativos RAND.
Outro estudo, da West Texas A&M University, também dirigido a adolescentes e jovens adultos, descobriu que quase um quinto de todos os adolescentes desenvolveu dependência de IA com problemas de saúde mental previamente existentes como predisposição para desenvolver a dependência.
Mudanças legais
Os legisladores começaram a tomar nota. No Canadá, uma nova lei de segurança digital, apresentada na quarta-feira, exigiria que empresas como a OpenAI fossem mais “transparentes” sobre os seus padrões de comunicação em situações de crise em que os utilizadores possam magoar-se a si próprios ou a terceiros.
No estado de Washington, o governador sancionou um projeto de lei que exige que os chatbots de IA lembrem aos utilizadores que não são humanos a cada três horas e está previsto para entrar em vigor em janeiro de 2027. Outros estados como Illinois, por exemplo, proibiram a terapia de IA.
No nível federal, o deputado Mike Lawler, um republicano do estado de Nova York, apresentou um projeto de lei que exigiria que as empresas de chatbot notificassem os pais sobre interações em que a ideação suicida fosse discutida por um usuário. No entanto, este projeto de lei aplica-se apenas a menores.
Se você ou alguém que você conhece está em risco de suicídio, estas organizações podem ajudar: