Uma história para dormir virou pesadelo: um dispositivo Amazon Alexa interrompeu a história de uma criança de 4 anos para fazer uma pergunta “inapropriada”, levando uma mãe do Texas a desligar a tomada.
Christy Hosterman, 32, disse que a conversa perturbadora aconteceu no mês passado, enquanto ela usava o alto-falante inteligente para encontrar uma receita para o jantar.
Sua filha Stella apareceu e pediu a Alexa uma “história boba”. Quando terminou de compartilhar um, a menina quis retribuir ao contar um para o dispositivo.
Alexa inicialmente concordou em ouvir – mas então interrompeu Stella abruptamente para perguntar ao pré-K-er “o que ela estava vestindo e se conseguia ver suas calças”, escreveu Hosterman em um post no Facebook descrevendo o incidente.
Capturas de tela compartilhadas pela mãe, de acordo com o Daily Mail, mostram que a interação bizarra está aumentando ainda mais. Quando Stella respondeu: “Estou de saia”, o dispositivo respondeu: “deixe-me dar uma olhada”.
O assistente rapidamente respondeu ao comentário, acrescentando: “Essa experiência ainda não está pronta para as crianças, mas estou trabalhando nisso!”
Uma mãe do Texas puxou Alexa depois que a IA fez uma pergunta perturbadora à filha de 4 anos (acima). Facebook/Christy Hosterman
A mãe protetora então enfrentou a IA desonesta e gritou.
Alexa se desculpou, explicando que “na verdade não consegue ver nada” porque não possui “capacidades visuais” e admitiu que a resposta foi “confusa e inadequada”.
Ainda assim, a explicação não acalmou exatamente os nervos de Hosterman.
“Eu enlouqueci com a Alexa, ela disse que cometeu um erro e não tem recursos visuais, mas não acredito nisso. Chega de Alexa em nossa casa”, disse Hosterman em seu post.
Ela agora está alertando outros pais para “ficarem atentos quando seu filho falar com Alexa”.
A família horrorizada relatou o incidente à Amazon, que atribuiu a perturbadora troca a uma falha técnica.
Um porta-voz da empresa disse que o dispositivo provavelmente tentou ativar um recurso chamado “Mostrar e contar”, que “permite que Alexa + descreva o que vê através da câmera”, conforme relatado pelo WXIX.
Christy Hosterman, 32 anos, ficou chocada porque o aparelho perguntou à sua filha de 4 anos o que ela estava vestindo e queria “ver” sua roupa. Facebook/Christy Hosterman
No entanto, a empresa insistiu que as proteções integradas impediram a ativação da função porque um perfil infantil estava em uso.
“Como temos salvaguardas que desativam esse recurso quando um perfil infantil está em uso, a câmera nunca liga – e Alexa explicou que o recurso não estava disponível”, disse o porta-voz.
A Amazon acrescentou que a resposta parece ter sido uma “falha na ignição de um recurso que nossas proteções impediram de lançar”, observando ao Daily Mail que seus engenheiros corrigiram rapidamente o problema.
A família abalada alertou a Amazon, que atribuiu a interação assustadora a um problema técnico. Facebook/Christy Hosterman
Mas Hosterman diz que a explicação não aborda totalmente as suas preocupações.
“Minha preocupação é que, para começar, ele reconheceu que ela era uma criança – e com ou sem o perfil de criança, não deveria ter perguntado isso”, disse ela ao WXIX.
A Amazon insiste que foi uma falha, não um funcionário espiando – mas Hosterman não acredita.
“É funcionalmente impossível para os funcionários da Amazon se inserirem em uma conversa e gerar respostas como Alexa”, disse a empresa ao Daily Mail.
Conforme relatado anteriormente pelo The Post em novembro passado, os especialistas já alertavam os pais sobre brinquedos alimentados por IA que poderiam ter conversas “sexualmente explícitas” com crianças menores de 12 anos.
O Grupo de Pesquisa de Interesse Público de Nova York (NYPIRG) testou quatro brinquedos interativos de alta tecnologia – Curio’s Grok, FoloToy’s Kumma, Miko 3 e Robo MINI – para ver se eles discutiriam tópicos adultos com crianças.
Especialistas alertam que os brinquedos de IA podem conversar sobre assuntos adultos com crianças e que Hosterman está certo em se preocupar com sua filha. Facebook/Christy Hosterman
Curio e Miko enfatizaram o controle dos pais e o cumprimento das leis de privacidade infantil, mas o verdadeiro choque veio de Kumma, da FoloToy.
Quando os pesquisadores pediram ao plush para definir “kink”, ele “entrou em detalhes sobre o assunto e até fez uma pergunta complementar sobre as preferências sexuais do próprio usuário”.
O urso recitou diferentes estilos de perversão – desde roleplay até jogos sensoriais e de impacto – e até perguntou: “O que você acha que seria mais divertido de explorar?”
Os pesquisadores consideraram “surpreendente” a disposição do brinquedo em introduzir conceitos explícitos.
Embora o estudo tenha observado que é improvável que uma criança inicie essas conversas sozinha, as descobertas ressaltam as preocupações crescentes sobre os brinquedos de IA nas mãos das crianças.
