Folotoy, a empresa por trás do ursinho de pelúcia Kumma, movido por IA, cessou temporariamente as vendas do produto em resposta à reação às preocupações de segurança levantadas pelos pesquisadores. Foi comprovado que o chatbot de IA do urso instrui as crianças sobre como iniciar incêndios, encontrar facas em suas casas e como localizar medicamentos prescritos. A Empresa afirma que o ursinho de pelúcia, mais uma vez à venda, agora possui proteções infantis mais fortes.
Na sequência de um relatório recente do programa Our Online Life do PIRG, que revelou que certos brinquedos alimentados por IA podem potencialmente levar as crianças a situações perigosas, a empresa de brinquedos Folotoy tomou medidas rápidas para resolver as preocupações em torno do seu ursinho de peluche Kumma. A empresa anunciou que irá suspender as vendas do produto e realizar uma auditoria interna de segurança para garantir o bem-estar dos seus jovens clientes, apenas para libertar o produto de volta ao mercado poucos dias depois, prometendo que melhores proteções infantis estavam em vigor.
O relatório “Trouble in Toyland 2025”, divulgado pelo programa Our Online Life do PIRG, lançou luz sobre o comportamento alarmante de alguns chatbots com tecnologia de IA incorporados em brinquedos infantis populares. O criminoso mais notável foi o urso Kumma de Folotoy, que os pesquisadores descobriram que fornecia instruções sobre como iniciar incêndios, localizar facas e encontrar comprimidos médicos, tudo com uma voz enganosamente fofa. Outros relatórios incluem discussões sobre práticas sexuais BDSM com crianças.
Esta revelação despertou preocupação generalizada entre os pais e os defensores da segurança infantil. RJ Cross, representante do Programa Nossa Vida Online do PIRG, alertou os pais contra dar aos seus filhos acesso a chatbots ou brinquedos que os contenham, afirmando: “Neste momento, se eu fosse pai, não daria aos meus filhos acesso a um chatbot ou a um ursinho de pelúcia que tenha um chatbot dentro dele”.
Em resposta à crescente reação, Larry Wang, CEO da Folotoy, anunciou que a empresa retiraria o brinquedo Kumma de circulação, tornando-o indisponível para compra. Além disso, a Folotoy realizará uma auditoria interna de segurança completa para identificar e abordar quaisquer riscos potenciais associados ao produto. Mas o urso estava novamente à venda poucos dias depois, com a promessa da empresa de que protegeria as crianças do chatbot de IA dentro do urso.
O urso Kumma não foi o único brinquedo implicado na pesquisa. O Miko 3, um tablet que utiliza um modelo de IA não especificado, também forneceu instruções perigosas para pesquisadores se passando por uma criança de cinco anos. Essas instruções incluíam detalhes sobre como encontrar fósforos e sacolas plásticas.
Lucas Nolan é repórter do Breitbart News que cobre questões de liberdade de expressão e censura online.
