A Meta disse hoje que está pausando o acesso dos adolescentes aos seus personagens de IA em todo o mundo em todos os seus aplicativos. A empresa mencionou que não está abandonando seus esforços, mas quer desenvolver uma versão especial de um personagem de IA para adolescentes, disse a empresa com exclusividade ao TechCrunch.
A medida ocorre dias antes de um caso contra a Meta ir a julgamento no Novo México, no qual a empresa é acusada de falta de esforço para proteger as crianças da exploração sexual em seus aplicativos. A Wired informou na quinta-feira que Meta procurou limitar as descobertas relacionadas ao impacto das mídias sociais na saúde mental dos adolescentes, juntamente com histórias
Em outubro, a Meta lançou novos recursos de controle parental, com foco em personalizar a experiência dos adolescentes de interagir com IA em seus aplicativos. Esses novos recursos, inspirados na classificação de filmes PG-13, restringiram o acesso dos adolescentes a certos tópicos como violência extrema, nudez e uso explícito de drogas.
Controles previamente visualizados do Meta em torno de personagens de IA. Créditos da imagem: Meta
Dias depois, a empresa também apresentou controles para personagens de IA, permitindo que pais e responsáveis monitorem tópicos e bloqueiem o acesso a determinados personagens. Meta disse que naquela época os pais também poderiam desligar completamente os bate-papos com personagens de IA. Esses recursos foram programados para serem lançados este ano, mas Meta agora está adotando uma abordagem rígida de desligar completamente os personagens de IA. Meta disse que ouviu dos pais que eles queriam mais insights e controle sobre as interações de seus filhos adolescentes com personagens de IA e decidiu pausar o acesso.
“A partir das próximas semanas, os adolescentes não poderão mais acessar personagens de IA em nossos aplicativos até que a experiência atualizada esteja pronta. Isso se aplicará a qualquer pessoa que nos tenha dado um aniversário de adolescente, bem como a pessoas que afirmam ser adultas, mas que suspeitamos serem adolescentes com base em nossa tecnologia de previsão de idade”, disse a empresa em uma postagem atualizada no blog.
Meta acrescentou que quando finalmente lançar os novos personagens de IA específicos para adolescentes, eles terão controles parentais integrados. A empresa disse que os novos personagens darão respostas adequadas à idade e se limitarão a tópicos como educação, esporte e hobbies.
As empresas de mídia social estão sob forte escrutínio dos reguladores. Além do caso mencionado no Novo México, Meta também enfrentará um julgamento na próxima semana, acusando a plataforma de causar dependência de mídia social. Espera-se que o CEO Mark Zuckerberg preste depoimento nesse caso assim que o julgamento começar.
Além das plataformas sociais, as empresas de IA tiveram de modificar a sua experiência para os adolescentes depois de enfrentarem ações judiciais que alegavam desempenhar um papel no auxílio à automutilação. Em outubro, Character.AI, a startup que permite aos usuários conversar com vários avatares de IA, proibiu conversas abertas com chatbots para usuários menores de 18 anos. Em novembro, a startup disse que criaria histórias interativas para crianças. Nos últimos meses, a OpenAI adicionou novas regras de segurança para adolescentes ao ChatGPT e também começou a prever a idade do usuário para aplicar restrições de conteúdo.
