Nós, como sociedade, descobrimos que talvez o mundo não esteja pronto para um brinquedo infantil movido a ChatGPT. Ou melhor, o ChatGPT não está pronto para interagir com segurança com crianças.
A fabricante de brinquedos FoloToy anunciou que retiraria seu ursinho de pelúcia movido a IA chamado Kumma, que foi construído no modelo GPT-4o da OpenAI. A notícia segue relatos de sérias preocupações de segurança, incluindo o urso falando sobre assuntos sexuais, facas ou fósforos acesos.
“A FoloToy decidiu suspender temporariamente as vendas do produto afetado e iniciar uma auditoria interna abrangente de segurança”, disse o diretor de marketing da FoloToy, Hugo Wu, ao The Register em um comunicado. “Esta revisão cobrirá o alinhamento de segurança do nosso modelo, sistemas de filtragem de conteúdo, processos de proteção de dados e salvaguardas de interação infantil.”
Velocidade da luz mashável
A notícia segue um relatório de uma organização de vigilância do consumidor chamada Public Interest Research Group (PIRG), que revelou sérias preocupações sobre o brinquedo. O ursinho de pelúcia supostamente deu instruções detalhadas para acender um fósforo, falou sobre problemas sexuais como a escravidão e deu dicas para “beijar bem”. Ele até perguntou se o usuário gostaria de explorar essas torções.
Vimos repetidamente que as proteções para ferramentas de IA podem falhar quando se trata de jovens. Parece que é uma boa ideia não vender mais um ursinho de pelúcia movido a IA, desde que seja esse o caso.
Divulgação: Ziff Davis, empresa controladora da Mashable, entrou com uma ação judicial contra a OpenAI em abril, alegando que ela infringiu os direitos autorais de Ziff Davis no treinamento e operação de seus sistemas de IA.
