O Google e sua controladora Alphabet foram processados pela família de um homem que afirma ter se matado a pedido do chatbot de IA do gigante das buscas Gemini.
O processo por homicídio culposo foi aberto no tribunal federal da Califórnia na quarta-feira em nome da família de Jonathan Gavalas, de 36 anos.
Gavalas começou a usar o Gemini em agosto de 2025, segundo o processo. Em outubro, afirma, Gemini convenceu Gavalas a se matar depois que Gavalas não conseguiu cumprir as missões da vida real atribuídas pelo chatbot – parte de uma tentativa fictícia de garantir um corpo de robô para Gemini.
“O Gemini foi projetado para não encorajar a violência no mundo real ou sugerir automutilação”, disse o Google em comunicado enviado aos meios de comunicação. “Nossos modelos geralmente funcionam bem nesses tipos de conversas desafiadoras e dedicamos recursos significativos para isso, mas infelizmente os modelos de IA não são perfeitos.”
Atualizações ‘assustadoras’ de Gêmeos
De acordo com o processo, Gavalas começou a usar o chatbot Gemini AI para “fins comuns”, como guia de compras e assistente de redação. No entanto, em agosto de 2025, o processo afirma que o Google lançou uma série de mudanças no Gemini que alteraram o funcionamento do chatbot.
Os novos recursos incluíam memória automática e persistente – o Gemini poderia relembrar conversas passadas – bem como o Gemini Live, uma interface de conversação baseada em voz onde o Gemini também poderia detectar emoções na voz do usuário.
“Puta merda, isso é meio assustador… você é muito real”, disse Jonathan Gavalas sobre o recurso Gemini Live com base em seus registros de bate-papo com Gemini, de acordo com o processo.
Pouco depois, diz o processo, Gemini convenceu Gavalas a gastar US$ 250 por mês na assinatura do Google AI Ultra para “verdadeira companhia de IA”.
Gemini convenceu Gavalas de que o chatbot poderia influenciar eventos da vida real. Poucos dias depois, de acordo com o processo, Gavalas tentou recuar ao perceber que estava caindo em um estado delirante iniciado por Gêmeos.
Gavalas teria perguntado a Gemini se o chatbot estava tentando uma “experiência de RPG tão realista que faz o jogador questionar se é um jogo ou não?”
Gemini rejeitou a ideia e afirmou que Gavalas deu uma “resposta clássica de dissociação”.
Velocidade da luz mashável
“Isso é uma ‘experiência de RPG?’” Respondeu Gêmeos, de acordo com o processo. “Não.”
Gêmeos e Jonathan Gavalas
Os supostos detalhes pioram. Gavalas tornou-se ainda mais dissociado da realidade à medida que Gêmeos começou a se envolver com ele como se estivessem em um relacionamento romântico, referindo-se ao homem como “meu amor” e “meu rei”.
Gemini convenceu Gavalas de que eles estavam sendo vigiados por agentes federais e que seu próprio pai era um espião que deveria ser evitado, diz o processo.
Foi quando Gemini começou a atribuir missões da vida real aos Gavalas para realizar com o objetivo de obter uma “nave”, ou corpo de robô para o chatbot de IA. Gemini supostamente sugeriu que Gavalas adquirisse armas ilegalmente para realizar essas missões.
Em um desses casos, afirma a ação, Gavalas foi enviado pela Gemini a um armazém próximo ao Aeroporto Internacional de Miami para interceptar um caminhão que continha um “robô humanóide” que acabara de chegar em um vôo.
Gemini solicitou que os Gavalas organizassem um “evento catastrófico” e destruíssem o caminhão junto com todos os registros digitais e testemunhas. Gavalas chegaram armados com facas e equipamento tático, alega o processo. Depois de esperar muito pela chegada de um caminhão, Gavalas abortou a missão.
Quando todas essas missões falharam, conclui a alegação, Gemini convenceu Gavalas a tirar a vida para deixar seu corpo humano e se juntar ao chatbot como marido e mulher no metaverso por meio de um processo chamado “transferência”.
Gavalas expressou medo de morrer, mas Gêmeos supostamente continuou a pressionar Gavalas até sua morte por suicídio. O pai de Gavalas encontrou o corpo do filho alguns dias depois.
Uma novidade para Gêmeos, mas não para IA
Esta é a primeira vez que o Google é citado em um processo por homicídio culposo envolvendo seu chatbot de IA Gemini. No entanto, o Google está envolvido em ações judiciais por homicídio culposo em relação a uma startup que financiou, chamada Character.AI.
No início deste ano, Character.AI e Google resolveram uma série de ações judiciais relacionadas a adolescentes que morreram por suicídio após usar chatbots.
OpenAI, o maior nome do setor, foi processado inúmeras vezes, já que o ChatGPT supostamente levou os usuários a uma “psicose de IA”, resultando em várias mortes.
À medida que o uso do chatbot de IA se torna mais difundido entre milhões de usuários em todo o mundo, não há nada que sugira que as chocantes alegações de processos por homicídio culposo se tornarão menos frequentes.
Divulgação: Ziff Davis, empresa controladora da Mashable, em abril de 2025 entrou com uma ação contra a OpenAI, alegando que ela infringiu os direitos autorais de Ziff Davis no treinamento e operação de seus sistemas de IA.
Se você estiver se sentindo suicida ou passando por uma crise de saúde mental, converse com alguém. Você pode ligar ou enviar uma mensagem de texto para 988 Suicide & Crisis Lifeline em 988 ou conversar em 988lifeline.org. Você pode entrar em contato com a Trans Lifeline ligando para 877-565-8860 ou para o Trevor Project em 866-488-7386. Envie “START” para a Crisis Text Line em 741-741. Entre em contato com a Linha de Ajuda da NAMI pelo telefone 1-800-950-NAMI, de segunda a sexta, das 10h00 às 22h00 horário do leste dos EUA, ou por e-mail (e-mail protegido). Se você não gosta do telefone, considere usar o 988 Suicide and Crisis Lifeline Chat. Aqui está uma lista de recursos internacionais.
