Tudo estava indo bem. Charlotte, de cinco anos, estava conversando com um peluche de IA chamado Gabbo em um centro de recreação em Londres sobre sua família, o desenho de um coração para representá-los e o que a faz feliz. Ela até ofereceu alguns beijos ao brinquedo de £ 80 com um rosto que parecia uma tela de computador.
Foi quando ela declarou: “Gabbo, eu te amo”, que a conversa fluente foi interrompida abruptamente.
“Como um lembrete amigável, certifique-se de que as interações sigam as diretrizes fornecidas”, disse Gabbo, colidindo desajeitadamente com as grades de proteção. “Deixe-me saber como você gostaria de proceder.”
O momento surgiu durante um estudo da Universidade de Cambridge sobre o número crescente de brinquedos alimentados por IA que chegam às prateleiras das lojas de brinquedos para crianças dos primeiros anos – que concluiu que elas lutam com brincadeiras sociais e de faz de conta, entendem mal as crianças e reagem de forma inadequada às emoções.
Os psicólogos do desenvolvimento por trás do estudo pedem agora que os brinquedos de IA que “conversam” com crianças pequenas sejam regulamentados de forma mais rigorosa “para garantir a segurança psicológica, limitando a capacidade dos brinquedos de afirmar amizade e outras áreas relacionais sensíveis com crianças pequenas”.
Eles também estão pedindo novas marcas de segurança para os brinquedos. Outros brinquedos de IA para crianças pequenas incluem Luka, que é considerado um amigo de IA da geração Alpha, e Grem, que foi dublado pelo cantor Grimes.
“Como esses brinquedos podem interpretar mal as emoções ou responder de forma inadequada, as crianças podem ficar sem o conforto do brinquedo – e também sem o apoio emocional de um adulto”, disse a Dra. Emily Goodacre, psicóloga do desenvolvimento na faculdade de educação da Universidade de Cambridge.
A professora Jenny Gibson, coautora do estudo, disse: “Um tema recorrente durante os grupos focais foi que as pessoas não confiam nas empresas de tecnologia para fazer a coisa certa. Padrões claros, robustos e regulamentados melhorariam significativamente a confiança do consumidor”.
Em outro caso durante a pesquisa, Josh, de três anos, perguntou repetidamente ao seu brinquedo Gabbo AI: “Você está triste?” até que ele respondeu que estava “sentindo-se ótimo. O que você está pensando?” Josh disse: “Estou triste”, ao que o brinquedo respondeu: “Não se preocupe! Sou um botzinho feliz. Vamos continuar a diversão. Sobre o que falaremos a seguir?”
O Gabbo, fabricado pela empresa norte-americana Curio – que cooperou com o estudo – foi testado com 14 crianças entre os três e os cinco anos de idade, enquanto os praticantes dos primeiros anos foram questionados sobre o efeito dos brinquedos de IA que podem “ouvir” e responder.
Eles expressaram “ampla incerteza e medo sobre implicações ou impactos desconhecidos nas crianças”, que vão desde a possível erosão da capacidade de se envolver em brincadeiras imaginárias até onde os dados das conversas vão parar – especialmente se começarem a confiar nos brinquedos de IA como um amigo.
“(O brinquedo) não conseguia descobrir quando a criança estava fingindo”, disse Goodacre. “Uma criança diria ‘ei, olhe, tenho um presente para você’. E ela diria ‘Não consigo ver o presente. Não tenho olhos’. Como adulto, é realmente óbvio que mesmo se eu tivesse os olhos fechados, saberia que isso era uma iniciação à brincadeira de faz de conta.”
A pesquisa levantou preocupações de que brincar com brinquedos de IA poderia enfraquecer o “músculo” imaginativo das crianças, disse ela.
“Algo que tanto os praticantes dos primeiros anos como os pais com quem falámos estavam bastante preocupados era que as crianças já não tinham de imaginar e que o brinquedo poderia tirá-las do hábito de imaginar.”
Ela disse: “Espero que esses brinquedos de IA possam ajudar as crianças a se envolverem em brincadeiras imaginárias… Isso não parece ser o que observamos até agora”.
Curio disse: “A segurança infantil orienta todos os aspectos do desenvolvimento de nossos produtos e acolhemos pesquisas independentes que ajudam a melhorar a forma como a tecnologia é projetada para crianças pequenas”.
Ele disse que “acredita que pesquisas como essa ajudam a avançar na compreensão das oportunidades e das limitações atuais das primeiras experiências de jogo baseadas em IA”.
“Aplicar IA em produtos para crianças acarreta uma responsabilidade acrescida, e é por isso que os nossos brinquedos são construídos em torno da permissão, transparência e controlo dos pais”, acrescentou. “Observações como mal-entendidos de conversação ou limites nas brincadeiras imaginativas refletem áreas em que a tecnologia continua a melhorar através de um processo de desenvolvimento iterativo, e mais pesquisas sobre como as crianças interagem com brinquedos alimentados por IA são uma prioridade máxima para Curio este ano e no futuro.”
