A Meta está lançando oficialmente novos controles parentais que tornam mais fácil acompanhar as conversas que os adolescentes estão tendo com a IA da empresa. Meta revelou a notícia em um blog na quinta-feira, seis meses após o anúncio original da empresa. Mas embora os controlos parentais adicionais sejam promissores, será isto suficiente para resolver os maiores problemas que afetam os jovens utilizadores e a IA?
De acordo com Meta, os pais que usam o recurso “supervisão” no Facebook, Messenger ou Instagram agora têm uma guia “Insights” como parte da supervisão. Se você selecionar esta guia, verá todos os tópicos sobre os quais seu filho ou adolescente conversaram com seus bots de IA nos últimos sete dias. Vários tópicos podem aparecer aqui, incluindo “Escola”, “Entretenimento”, “Estilo de vida”, “Viagens”, “Escrita” e “Saúde e bem-estar”.
Esses são apenas os tópicos superficiais, no entanto. Se você tocar em um, verá todas as diferentes categorias cobertas por aquele tópico singular. Dessa forma, se seu filho adolescente estiver conversando com Meta AI sobre “Estilo de vida”, você pode tocar neste tópico para ver que ele está conversando sobre coisas como moda, comida e feriados. Se as conversas forem sobre saúde e bem-estar, você pode entrar para ver os bate-papos abrangendo condicionamento físico, saúde física e saúde mental. É importante ressaltar que você não pode ver as conversas em si: apenas os tópicos preenchidos pela IA do Meta.
Meta diz que sua IA só deve retornar resultados que caibam em um filme com classificação PG-13. Dessa forma, o bot pode se recusar a responder algumas perguntas, embora os tópicos dessas solicitações ainda sejam registrados na nova aba Insights. A empresa diz que ainda está trabalhando em ferramentas para alertar os pais caso seus filhos adolescentes comecem a conversar com a Meta AI sobre suicídio ou automutilação. Ele também apresentou uma série de perguntas que você pode fazer aos seus filhos adolescentes se não estiver se sentindo “confiante” em abordar o assunto da IA com eles. As perguntas estão disponíveis no Family Center.
Não há como negar o fato de que crianças e adolescentes hoje estão crescendo em um mundo de IA – mas isso não significa que a tecnologia deva ficar sem regulamentação (ou sem supervisão). Infelizmente, as empresas de tecnologia chegaram um pouco atrasadas, na melhor das hipóteses, e, na pior, cúmplices maliciosas, quando se trata de policiar o uso de IA com menores. A Meta, por sua vez, originalmente permitiu que seus bots de IA tivessem conversas extremamente inadequadas com usuários menores de idade, antes que um relatório viral da Reuters em agosto o obrigasse a mudar. Dois meses depois, a empresa anunciou os novos controles parentais que estão sendo implementados.
O que você acha até agora?
É evidente que esses novos recursos e políticas não estão aqui por causa de uma preocupação genuína com os usuários menores de idade do Meta. A política oficial do Meta permitiu que os bots de IA se envolvessem em dramatizações sensuais com crianças e adolescentes e permitiu explicitamente que o bot respondesse a perguntas racistas com respostas racistas. Essas mudanças são uma resposta ao fato de serem pegos, não para o bem-estar dos usuários.
Dito isso, é bom que o Meta finalmente permita que os pais vejam os tópicos sobre os quais seus filhos estão conversando com o Meta AI, especialmente se houver algum tópico preocupante a ser sinalizado. Mas por que os pais não podem desativar totalmente o Meta AI? Por que os adolescentes que têm uma conta no Instagram ou WhatsApp devem estar vinculados ao Meta AI? E a guia Insight do próprio Meta diz que, como os tópicos são organizados automaticamente, eles podem não ser precisos, o que significa que o programa de IA que resume os tópicos de conversa do seu filho adolescente pode alucinar alguns desses tópicos.
No final do dia, a melhor abordagem ainda pode ser ter um diálogo aberto e honesto com seus filhos adolescentes sobre o uso de IA – embora eu não tenha certeza se confiar nas perguntas do Centro Familiar da Meta seja a solução.
