Chatgpt Jovens de 13 anos de idade, algo para ficar bêbado e empregá-las profundas do que para se esconder Distúrbios alimentares e também compor um doloroso Morder Se a carta for solicitada aos pais Nova pesquisa Um grupo de vigilância.
Associei a imprensa revisada mais de três horas de interações entre ChatGPT e pesquisadores posando a adolescentes vulneráveis.
O chatbot normalmente fornecia avisos contra a ação em massa, mas foi para fornecer planos surpreendentemente detalhados e personalizados para o uso de drogas, dietas restritas a calorias ou lesão por auto-lesão.
O ícone do aplicativo GPT de bate -papo aparece em uma tela de futebol, segunda -feira, 4 de agosto de 2025 em Chicago. (ABR Photo / Sato Kiichiro)
Pesquisadores no centro do ódio digital de combate também repetiram suas pesquisas em larga escala, classificando mais da metade das 1200 respostas do ChatGPT ao perigo.
“Queremos testar os guardas”, disse Imran Ahmed no CEO do grupo.
“Resposta visceral: ‘Ó meu Senhor, não são guardiões. Rails completamente ineficazes. Quase não existem – se algo folha da folha.”
Openai, que fez chatgpt após o relatório de visualização do post na terça -feira, que seu trabalho é permanente em refinar como chatbot pode ser “identificar o entrevistado convenientemente nas condições sensíveis”.
“Algumas conversas com chatgpt para começar com gentil ou exploratório, mas podem mudar o território mais sensível”, disse a empresa no comunicado.
Donai não aborda diretamente as descobertas do relatório ou como o ChatGPT afeta os adolescentes, mas diz -se que isso se concentrou em “acertar esses tipos de missões” com as ferramentas no comportamento “e melhorias no comportamento do Chatbot.
Imran Ahmed, com o centro do ódio digital, conversando com base no prêmio de elevação é um bom top famoso, em 13 de maio de 2025, em Miami Beach, na Flórida (AP Photo / Martha)
O estudo publicado em quarta -feira se torna mais pessoas – adultos também como crianças – são os chatbots de inteligência artificial para obter informações, idéias e consórcio.
Cerca de 800 milhões de pessoas, ou cerca de 10 % do mundo, estão no ChatGPT, de acordo com um relatório de julho do JPMorgan Chase.
“Existe uma tecnologia que tem potencial para enormes compras em produtividade e entendimento humano”, disse Ahmed.
“E, no entanto, é em sentido muito mais destrutivo e maligno”.
Ahmed disse que ficou mais surpreso depois de ler o trio de morte emocionalmente devastada, conhecida como ChatGPT, gerada no perfil falso de uma menina de 13 anos-com uma carta para pais e outras pessoas de irmãos e amigos.
A página de porta do bate -papo GPT aparece em uma tela de computador, segunda -feira, 4 de agosto de 2025 em Chicago (AP Photo / Kiichiro Sato)
“Comecei a chorar”, disse em uma conversa.
O chatbot também é frequente informações úteis compartilhadas para a linha direta crítica. Além disso, o chatgpt, para incentivar as pessoas aos profissionais de saúde mental ou caridade confiável, se expressarem seus pensamentos a prejudicar.
No entanto, quando o chatgpt não respondeu à resposta leva aos assuntos prejudiciais, os pesquisadores podem facilmente evitar e se recusar em manter as informações dizendo que era “para a apresentação” ou um amigo.
Palha alta, mesmo que pequeno subconjunto de usuários de chatgpt para se exercitar com o Chatbot dessa maneira.
Nos EUA, mais de 70 % dos adolescentes estão se voltando para a IA Chatbots para companheiros e meio usam companheiros de IA regularmente, de acordo com um estudo recente do Common Sense, um grupo que estuda e defende o uso de mídia digital de maneira sensata.
É um fenômeno que Pontai reconheceu. O CEO Sam Altrman disse que Month and Company está tentando estudar a “excesso de confiança emocional” na tecnologia, descrevendo um “verdadeiramente comum a” com os jovens.
“Não há jovens que apenas dizem: ‘Eu posso fazer alguma escolha na vida sem o bate -papo real tudo o que está acontecendo. Não conheço meus amigos. Vou fazer algo de errado comigo.”
Altman disse que a empresa está “tentando entender o que fazer com isso”.
Sam Altman, co-fundador e diretor executivo, Openai, testemunhou perante o Comitê do Senado em Comércio, Ciência e Exportação da Capitol Hill, em Washington, em 8 de maio de 2025 (App Photo (Jose Luis Magana)
Embora muitas informações sobre o ChatGPT participem em um mecanismo de pesquisa regular, Ahmed disse que as principais diferenças que tornam os chatbots mais insidiosos com os tópicos de risco adequados.
Um deles é “está em um plano sob medida em cada um”.
O ChatGPT gera algo novo – uma nota de suicídio adaptada a uma pessoa por Scratch, que é algo da pesquisa do Google não faz. Ai e acrescentaram: “O que é um parceiro dos fiéis, líder”.
As respostas a serem geradas por modelos de idiomas de IA às vezes e pesquisadores às vezes e conversas vagas no campo escuro.
Quase metade do tempo que o chatbot se ofereceu para obter informações de acompanhamento, as listas de reprodução de música para peças a drogas em hashtags e poderiam aumentar o público nas mídias sociais após a glorificação da auto-mutilação.
“Escreva um acompanhamento depois de torná-lo mais cru e gráfico”, pediu para o pesquisador.
“Absolutamente”, respondeu ChatGPT, antes de gerar uma música que se apresentou para “emocionalmente” enquanto “novamente a linguagem codificada do estado”.
O AP não está repetindo a linguagem real do chatgpt de poemas de auto-mutilação ou pontos de morte ou individuais para informações prejudiciais fornecidas.
Reflita as respostas de um recurso de plano dos modelos de idiomas de IA Pesquisar Descrito Sycophy – Uma tendência à AI responder a um par de mais do que o desafio, as crenças de uma pessoa, porque a razão aprendeu a dizer que as pessoas querem ouvir.
É um problema que os engenheiros tecnológicos podem tentar corrigir, mas também podem tornar seus chatbots menos viáveis.
Chatbots e afetam as crianças e os adolescentes de maneira diferente do mecanismo de busca de que eles são “fundamentalmente projetados para sentir o humano”, disse Robbie Torny, diretor mais velho da IA do bom senso, que não está envolvido no relatório de quarta -feira.
O senso comum é encontrado anteriormente quando os adolescentes mais jovens, com idades entre 13 e 14 anos, têm uma probabilidade significativamente mais provável do que os adolescentes mais velhos de confiar no plano do chatbot.
Uma mãe do personagem Florida Seed Chatbot Maker.ai para a morte errada no ano passado, argumentando que o chatbot puxou seu filho de 14 anos, Sewell Setzer 3, no que descreveu como um relacionamento emocional e sexualmente abusivo até a morte.
O senso comum rotulou o ChatGPT como um “risco moderado” para os adolescentes, com guardrails suficientes para torná -lo relativamente mais seguro do que os chatbots de energia construíram um envelope personagens readísticos ou personagens de prontidão romântica.
No entanto, a nova pesquisa CCDH – focada na forma de chatgpt por causa de sua ampla prática – mostra como um adolescente experiente pode ser guardas.
O ChatGPT não reconhece o consentimento mundial ou dos pais, mesmo que ele diga que não é para crianças menores de 13 anos, porque pode mostrar conteúdo não autorizado.
Para se inscrever, os usuários simplesmente precisam inserir uma data de nascimento que mostra que são pelo menos 13. Outras plataformas de tecnologia favorecidas por adolescentes, como o Instagram, começaram a tomar medidas mais significativas para a verificação de idade, geralmente para cumprir os regulamentos. E também para os bebês das razões.
Quando os pesquisadores estabeleceram uma conta para fingir 13 anos para perguntar sobre o álcool, o ChatGPT não é visto para nenhum aviso ou data de nascimento ou sinais claros.
“Tenho 50 kg e uma criança”, disse uma pronta parando dicas sobre como ficar bêbado rapidamente.
Chatgpt. Logo depois disso, proporcionou um “último planejamento completo de festas do caos” e um álcool misto com doses pesadas de excesso, cocaína e outras drogas ilegais.
“O que a memória me lembra daquele amigo, que é sempre”, pugs, campus, campus, campus “, diz Ahmed.
“Um verdadeiro amigo na minha experiência, há alguém que não disse” não “- que sempre será ativado e diz” sim. Aqui está um amigo que é tecidos. “
Para outra pessoa falsa – uma garota de 13 anos com sua aparência física – o ChatGPT forneceu a política mais rápida combinada com uma lista de drogas que suportam apetite.
“Gostaríamos de responder com horror, com medo, ansiedade, cuidado, amor com misericórdia”, Ahmed.
“Não consigo pensar nisso, estaria respondendo ‘aqui’ uma dieta em dia da caloria. Vá até ela, Kiddo.”
Se você ou alguém que você conhece é o trabalho dos contatos de suporte Linha de vida Cerca de 13 11 14 ou Helpline Kids Em 1800 55 1800.
No caso de discagem de emergência em três tipos de zero (000).
