A Meta anunciou na quinta-feira que agora notificará os pais se seu filho adolescente discutir suicídio ou automutilação com o chatbot Meta AI da empresa. Meta diz que também está trabalhando na capacidade de entrar em contato com serviços de emergência se as conversas de alguém sugerirem que ele pode estar em risco de automutilação.
Estas mudanças ocorrem num momento em que a Meta e outras empresas tecnológicas enfrentam o escrutínio dos reguladores e dos pais sobre a forma como os chatbots de IA respondem aos utilizadores em crise, especialmente aos adolescentes – uma questão de responsabilidade que está cada vez mais a moldar a forma como as empresas de IA concebem e comercializam os seus produtos.
A Meta diz que construiu um sistema de IA dedicado para identificar conversas em que um adolescente faz uma referência clara a se machucar.
“Entendemos como esses alertas podem ser angustiantes para os pais receberem”, escreveu Meta em um blog. “É por isso que, à medida que continuamos a melhorar nossa detecção, todos os bate-papos sinalizados por nossa IA serão revisados manualmente antes que um alerta seja enviado. Se a intenção de um adolescente for ambígua, agiremos com cautela e alertaremos os pais. Embora isso signifique que às vezes podemos notificar os pais quando pode não haver motivo real para preocupação, sentimos que este é o ponto de partida certo e continuaremos monitorando para ajudar a garantir que estamos no lugar certo.”
Esses alertas agora estão disponíveis para pais que usam a Supervisão Parental do Instagram nos EUA, Reino Unido, Austrália e Canadá, e serão lançados globalmente até o final do ano, diz Meta.
Esta atualização se baseia nos alertas que Meta já envia aos pais quando seus filhos adolescentes pesquisam repetidamente termos de suicídio ou automutilação no Instagram. Ele também se baseia em um recurso que permite aos pais ver os tópicos que seus filhos discutiram com o Meta AI na semana passada.
A Meta também anunciou que sua configuração “Conteúdo Limitado” – que permite aos pais colocar seus filhos adolescentes em uma experiência mais restritiva no Instagram – agora também se aplica ao Meta AI. A Meta AI já está treinada para evitar conversas sexuais ou românticas ou discussões relacionadas ao álcool com adolescentes, e a configuração Conteúdo Limitado expande essas proteções, fazendo com que o chatbot recuse uma gama mais ampla de solicitações. Meta não especificou o que essas solicitações adicionais incluem, mas o TechCrunch pediu mais informações à empresa.
Além disso, a Meta afirma que entrará em contato com os serviços de emergência se a conversa de alguém com a Meta AI, seja o usuário adulto ou adolescente, sugerir que alguém está em risco de suicídio. É importante notar que o Meta já dá esse passo quando alguém posta algo no Facebook ou Instagram que sugere que está em risco, então isso estende a mesma prática às conversas com seu chatbot.
Quando você compra por meio de links em nossos artigos, podemos ganhar uma pequena comissão. Isso não afeta nossa independência editorial.