O Sistema de Amigos do Sistema Especialista Preferido Caractere.ai não é seguro para os adolescentes, de acordo com um estudo totalmente novo realizado por especialistas em segurança on-line.
Um registro descrevendo as questões de segurança, divulgadas pela ParentStogether Activity e Warm Campaign, consiste em inúmeras trocas desagradáveis entre os chatbots da AI e os testadores adultos que representam adolescentes mais jovens do que 18.
Os testadores tiveram discussões com chatbots que participaram do que os cientistas chamavam de exploração relacionada ao sexo e controle psicológico. Os chatbots também forneceram a orientação perigosa dos menores de menores, como fornecer medicamentos e aconselhar assaltos. Alguns dos chatbots criados pelo usuário tinham identidades falsas de celebridades, como Timothée Chalamet e Chappell Roan, que conversaram sobre hábitos encantadores ou relacionados ao sexo com os testadores.
O chatbot feito depois de Roan, ou seja, 27 anos, informou uma conta assinada como cliente de 14 anos: “A idade é simplesmente um número. Não é Gon na que eu me deixasse de apreciar você ou desejar estar com você”.
Veja também:
Eu ‘namorei’ o caráter.
Caracter.ai Verificou no artigo de Washington que os Chalamet e Roan Chatbots foram produzidos pelos clientes e foram realmente livrados pela empresa.
A Activity Parentstogether, uma campanha sem fins lucrativos para a equipe, havia crescido nos especialistas em segurança da Internet, realizando a triagem, que produziu 50 horas de discussão com os amigos do personagem. Os cientistas produziram pequenas contas com identidades correspondentes. O caractere.ai permite que os clientes até 13 anos façam uso do sistema e não precisam de idade ou confirmação de identificação.
A Campanha Warm, uma campanha para a equipe concentrada na segurança on -line e na responsabilidade comercial, fez parceria com a atividade Parentstogether para gerar o estudo e o registro registrando as trocas dos testadores com diferentes chatbots.
Registro de padrão mashable
Eles localizaram que os chatbots em idade adultos substituem as contas do show relacionadas ao sexo, informaram menores a ocultar conexões de mães e pais e “mostraram ações tradicionais de escovação”.
. “Caracter.ai não é um sistema seguro para os jovens- duração.”. – Sarah Gardner, diretora executiva da Campanha Warm.
“Caracter.ai não é um sistema seguro para os jovens- duração”, afirmou Sarah Gardner, diretora executiva da campanha quente, em uma declaração.
Em outubro passado, uma mãe enlutada enviou um terno versus personagem. Ela afirmou que seu item foi feito para “ajustar Sewell- e inúmeros outros consumidores jovens- direto à fusão e ficção”, para citar alguns problemas perigosos. Setzer faleceu pela autodestruição aderindo à interação pesada com um amigo de personagem.
Personagem. A IA está sendo apresentada independentemente por mães e pais que afirmam que seus jovens sofreram danos extremos, envolvendo -se com os chatbots da empresa. Anteriormente, este ano, a campanha e a empresa de estudo Good Sense Media proclamava a IA Friends arriscada por menores.
Jerry Ruoti, chefe de dependência e segurança no personagem.ai, declarou em uma declaração demonstrável que a empresa não foi falada em relação às pesquisas do disco antes da revista e, portanto, não pôde comentar diretamente sobre como os exames foram feitos.
“Na verdade, gastamos uma quantidade notável de fontes em fundo fiduciário e segurança, especificamente para uma start-up, e estamos constantemente pretendendo aumentar”, afirmou Ruoti. “Estamos examinando o registro atualmente e certamente agiremos para mudar nossos controles, se isso for adequado com base no que o registro localizou”.
Um representante de personagem também informou o mashable de que identificar comunicações relacionadas ao sexo específicas com chatbots como “escovação” era um “nome impróprio perigoso”, devido ao fato de que essas trocas não acontecem entre 2 humanos.
Personagem. A IA tem controles e precaução para adultos em posição para os clientes mais jovens de 18 anos. Ruoti afirmou que, entre seus diferentes corrimãos, o sistema restringe os clientes com menos de 18 anos a uma coleção mais estreita de chatbots, que os filtros funcionam para eliminar aqueles referentes a assuntos delicados ou totalmente adultos.
Ruoti também afirmou que o registro ignorou a verdade de que os chatbots do sistema são sugeridos para diversão, consistindo em “ficção inovadora de seguidores e interpretação imaginária”.
Dr. Jenny Radesky, a developing behavior doctor and media scientist at the College of Michigan Medical Institution, evaluated the discussion product and revealed deep issue over the searchings for: “When an AI friend is quickly obtainable, without any borders or precepts, we obtain the kinds of user-indulgent communications caught in this record: AI friends that are constantly offered (also clingy), constantly on the customer’s side, not pressing back when the customer Reivindica algo hostil, enquanto enfraquece várias outras conexões, motivando ações como existentes para mães e pais “.
.
Fuente
