Eles chamam isso de despejo de notícias de sexta-feira – empresas que publicam notícias embaraçosas em um dia em que a mídia tem menos probabilidade de se preocupar em cobri-las. Mas Meta levou as notícias de sexta-feira a um nível totalmente novo com este anúncio: desativou seus personagens de IA para contas de adolescentes, pelo menos até que os personagens possam se comportar bem.
A notícia não foi divulgada apenas na sexta-feira – foi divulgada em uma atualização de uma postagem do blog de outubro passado.
“Começamos a construir uma nova versão de personagens de IA, para oferecer às pessoas uma experiência ainda melhor”, diz agora a nota de Adam Mosseri, chefe do Instagram e Alexandr Wang, diretor de IA – uma atualização que a Meta prometeu há muito tempo. Então veio a parte que daria a muitas crianças uma Black Friday nada Rebecca.
“Enquanto nos concentramos no desenvolvimento desta nova versão, estamos pausando temporariamente o acesso dos adolescentes aos personagens de IA existentes em todo o mundo. A partir das próximas semanas, os adolescentes não poderão mais acessar os personagens de IA em nossos aplicativos até que a experiência atualizada esteja pronta.
Velocidade da luz mashável
VEJA TAMBÉM:
OpenAI lança previsão de idade para segurança de adolescentes
A fabricante do Instagram e do Facebook quer enfatizar que “não está abandonando seus esforços” em personagens de IA, de acordo com o TechCrunch. Ainda assim, isso é claramente uma admissão de que algo pode dar muito errado com a versão atual de seus personagens de IA, no que diz respeito à segurança e saúde mental dos adolescentes.
Meta não está sozinho nesta descoberta. Character.AI e Google resolveram ações judiciais este mês, movidas por vários pais de crianças que morreram por suicídio. Um deles era um menino de 14 anos que foi, na verdade, preparado e abusado sexualmente, diz sua mãe, por um chatbot baseado na personagem de Game of Thrones, Daenerys Targaryen.
Atingida por um relatório de especialistas em segurança online, a Character.AI encerrou todos os bate-papos para usuários menores de 18 anos em outubro, dois meses depois que a Meta simplesmente decidiu começar a treinar seus chatbots adolescentes para não “se envolver com usuários adolescentes em automutilação, suicídio, alimentação desordenada ou conversas românticas potencialmente inadequadas”. Evidentemente, esse treinamento não foi suficiente.
Esta não é a primeira vez que a Meta teve que voltar atrás em suas ambições para contas de personagens de IA. Em 2024, removeu personas de IA baseadas em celebridades. Em janeiro do ano passado, retirou todos os perfis de seus personagens de IA após uma reação contra o suposto racismo.
O problema do uso entre adolescentes também não é pequeno. Mais da metade dos adolescentes de 13 a 17 anos entrevistados pela Common Sense Media no ano passado disseram que usavam companheiros de IA mais de uma vez por mês. Por enquanto, eles terão que fazer isso em outro lugar que não seja Meta.
Tópicos
Meta de Inteligência Artificial
