No que pode marcar o primeiro acordo legal significativo da indústria de tecnologia sobre danos relacionados à IA, o Google e a startup Character.AI estão negociando termos com famílias cujos adolescentes morreram por suicídio ou se machucaram após interagirem com os companheiros de chatbot da Character.AI. As partes concordaram em princípio em chegar a um acordo; agora vem o trabalho mais difícil de finalizar os detalhes.
Esses estão entre os primeiros acordos em ações judiciais que acusam empresas de IA de prejudicar os usuários, uma fronteira legal que deve deixar a OpenAI e a Meta observando nervosamente enquanto se defendem contra ações judiciais semelhantes.
Character.AI, fundada em 2021 por ex-engenheiros do Google que retornaram ao seu antigo empregador em 2024 em um acordo de US$ 2,7 bilhões, convida os usuários a conversar com personas de IA. O caso mais assustador envolve Sewell Setzer III, que aos 14 anos conduziu conversas sexualizadas com um bot “Daenerys Targaryen” antes de se matar. A sua mãe, Megan Garcia, disse ao Senado que as empresas devem ser “legalmente responsáveis quando concebem conscientemente tecnologias prejudiciais de IA que matam crianças”.
Outro processo descreve um jovem de 17 anos cujo chatbot incentivava a automutilação e sugeria que assassinar seus pais era razoável para limitar o tempo de tela. Character.AI baniu menores em outubro passado, disse ao TechCrunch. Os acordos provavelmente incluirão danos monetários, embora nenhuma responsabilidade tenha sido admitida nos documentos judiciais disponibilizados na quarta-feira.
O TechCrunch entrou em contato com ambas as empresas.
