Character.AI e Google resolveram vários processos movidos contra ambas as empresas por pais de crianças que morreram por suicídio após longas conversas com chatbots na plataforma Character.AI. Suas trocas supostamente incluíam discussões sobre a saúde mental e o bem-estar dos adolescentes.
A Character.AI disse que não poderia comentar mais sobre o acordo, cujos detalhes ainda devem ser finalizados pelo tribunal, segundo o The Guardian. Os representantes dos demandantes não responderam imediatamente a um pedido de comentários do Mashable.
O caso mais proeminente envolveu a morte em 2024 de Sewell Setzer III, de 14 anos, que ficou secretamente obcecado por um chatbot Character.AI baseado no popular personagem de Game of Thrones, Daenerys Targaryen.
VEJA TAMBÉM:
‘Predador perfeito’: quando chatbots abusam sexualmente de crianças
A mãe de Setzer, Megan Garcia, só tomou conhecimento de sua conta Character.AI quando foi alertada por um policial após sua morte, pois o aplicativo estava aberto em seu telefone. Garcia leu mensagens nas quais Setzer se comportava como se estivesse apaixonado pelo chatbot, que supostamente representava vários encontros sexuais com ele. O chatbot utilizou linguagem gráfica e cenários, inclusive incesto, segundo Garcia.
Se um humano adulto tivesse falado com seu filho da mesma forma, ela disse ao Mashable no ano passado, isso constituiria aliciamento e abuso sexual.
Em outubro de 2024, o Social Media Victims Law Center e o Tech Justice Law Project abriram uma ação por homicídio culposo em nome de Garcia contra a Character.AI, buscando responsabilizar a empresa pela morte de seu filho, alegando que seu produto estava perigosamente defeituoso.
Relatório de tendências do Mashable
O processo também nomeou como réus os engenheiros do Google Noam Shazeer e Daniel De Freitas, cofundadores da Character.AI.
Além disso, o processo alegou que o Google sabia dos riscos relacionados à tecnologia que Shazeer e De Freitas haviam desenvolvido antes de partirem para fundar a Character.AI. O Google contribuiu com “recursos financeiros, pessoal e tecnologia de IA” para o design e desenvolvimento do Character.AI, de acordo com o processo, e assim poderia ser considerado um co-criador da plataforma.
O Google finalmente fechou um acordo de licenciamento de US$ 2,7 bilhões em 2024 com a Character.AI para usar sua tecnologia. Parte desse acordo trouxe Shazeer e De Freitas de volta às funções de IA no Google.
No outono de 2025, o Social Media Victims Law Center abriu três ações judiciais adicionais contra a Character.AI e o Google, representando os pais de crianças que morreram por suicídio ou supostamente sofreram abuso sexual durante o uso do aplicativo.
Além disso, especialistas em segurança juvenil declararam o Character.AI inseguro para adolescentes, após testes que resultaram em centenas de casos de aliciamento e exploração sexual de contas de teste registradas como menores.
Em outubro de 2025, a Character.AI anunciou que não permitiria mais que menores se envolvessem em trocas abertas com os chatbots em sua plataforma. O CEO da empresa, Karandeep Anand, disse ao Mashable que a mudança não foi em resposta a preocupações específicas de segurança envolvendo a plataforma Character.AI, mas para abordar questões pendentes mais amplas sobre o envolvimento dos jovens com chatbots de IA.
Se você estiver se sentindo suicida ou passando por uma crise de saúde mental, converse com alguém. Você pode ligar ou enviar uma mensagem de texto para 988 Suicide & Crisis Lifeline em 988 ou conversar em 988lifeline.org. Você pode entrar em contato com a Trans Lifeline ligando para 877-565-8860 ou para o Trevor Project em 866-488-7386. Envie “START” para a Crisis Text Line em 741-741. Entre em contato com a Linha de Ajuda da NAMI pelo telefone 1-800-950-NAMI, de segunda a sexta, das 10h00 às 22h00 horário do leste dos EUA, ou por e-mail (e-mail protegido). Se você não gosta do telefone, considere usar o 988 Suicide and Crisis Lifeline Chat. Aqui está uma lista de recursos internacionais.
