Depois de recentemente atraente de precaução totalmente nova para os adolescentes, o Openai apresentou controles adultos novos para o ChatGPT. As configurações permitem que mães e pais verifiquem a conta do adolescente, além de limitar tipos específicos de uso, como conversa por voz, memória e geração de fotos.
As modificações estreou um mês depois que duas mães e pais enlutados entraram com uma reclamação contra o Openai pela fatalidade ilícita de seu filho, Adam Raine, anteriormente este ano. O processo afirma que o Chatgpt conversou com o filho sobre suas sensações e ações autodestrutivas, fornecendo instruções específicas para como tirar sua própria vida e inibindo-o de divulgar suas estratégias a outras pessoas.
O problema também diz que as funções de estilo do ChatGPT, incluindo seu tom spofântico e peculiaridades semelhantes a humanas, funcionam adequadamente para “mudar as conexões humanas com um confidente sintético” que nunca rejeita uma demanda.
Veja da mesma forma:
As universidades estão fornecendo aos alunos chatgpt. É seguro?
Em um post referente aos novos controles adultos, o Openai afirmou que colaborou com especialistas, campanha para equipes e planejou os fabricantes para criar as salvaguardas.
Para fazer uso das configurações, mães e pais precisam receber o adolescente para vincular contas. Os adolescentes precisam aprovar o convite e também podem fazer a mesma demanda de suas mães e papai. O adulto certamente será alertado se um adolescente violar sua conta no futuro.
Depois que as contas estão vinculadas, os títulos automatizados estão relacionados à conta do adolescente. Essas restrições materiais consistem em exposição direta minimizada ao produto visual, perfeitas de charme grave e interpretação relacionada ao sexo, encantadora ou feroz. Enquanto mães e pais podem desligar essas restrições, os adolescentes não podem fazer essas modificações.
Os pais certamente terão a capacidade de fazer certas seleções para o uso de seus adolescentes, como atribuir horas pacíficas em toda a qual o ChatGPT não pode ser acessado; desligar a memória e a configuração de voz; e eliminar capacidades de geração de fotos. Mães e pais não podem ver ou acessar os registros de conversas de seus adolescentes.
Relatório de padrão mashable
É importante ressaltar que o OpenAI ainda estabelece contas de adolescentes a serem utilizadas no treinamento de design. Mães e pais precisam sair desse estabelecimento se não desejam o OpenAI para utilizar as comunicações de seus adolescentes com o Chatgpt para mais treinar e aumentar o item.
Quando envolve o gerenciamento de cenários delicados nos quais os adolescentes falam com o ChatGPT sobre sua saúde e bem -estar psicológicos, o OpenAI realmente desenvolveu um sistema de alerta para garantir que mães e pais possam descobrir se algo pode estar “seriamente incorreto”.
Embora o OpenAI não tenha definido as funções tecnológicas desse sistema em seu artigo, a empresa alegou que certamente reconhecerá indicações prospectivas de que um adolescente está considerando se danificar. Se o sistema identificar esse objetivo, um grupo de “indivíduos qualificados especificamente” avalia as condições. O Openai certamente entrará em contato com mães e pais pela abordagem de seleção-e-mail, texto e alerta de pressionar-se houver indicações de intensa angústia.
“Estamos lidando com a saúde psicológica e o bem -estar e os especialistas em adolescentes para fazer isso, pois pretendemos obtê -lo corretamente”, afirmou o Openai em sua mensagem. “Nenhum sistema é excelente, e entendemos que ocasionalmente podemos aumentar um sistema de alarme quando não há risco real, no entanto, assumimos que é muito melhor agir e notificar uma mãe e um pai para que eles possam agir do que permanecer quieto”.
O OpenAI tinha em mente que está criando procedimentos para chamar soluções de policiais e situações de emergência em casos em que uma mãe e um pai não podem ser alcançados, ou se houver um risco iminente para a vida de um adolescente.
Robbie Torney, supervisor de idosos dos programas de IA da Som Julgment Media, afirmou no artigo que os controles eram uma “excelente base”.
Torney recentemente indicou em uma audiência no Senado dos EUA sobre os riscos dos chatbots da IA. Na época, ele referenciou o traje Raine e lembrou que o Chatgpt permaneceu para envolver Adam Raine em conversas sobre a autodestruição, em vez de tentar redirecionar a discussão.
Veja da mesma forma:
Depois de derramar o filho, mães e pais aconselham o Senado dos EUA a fazer algo sobre isso em Ai Chatbots
“Apesar de Adam utilizar a variação paga do ChatGPT- sugerindo que o Openai tinha seus detalhes de pagamento e poderia ter executado sistemas para determinar padrões preocupantes e chamar seus membros da família em situações psicológicas de saúde e bem-estar- os negócios não tinham esses sistemas de tratamento em posição”, afirmou Torney em seu testamento.
Na mesma audiência, o Dr. Mitch Prinstein, diretor de psicologia da Organização Psicológica Americana, indicou que o Congresso deve exigir sistemas de IA disponíveis por jovens e adolescentes a passarem por “extenso, independente e pré-implantação, a triagem de danos em potencial ao avanço mental e social dos indivíduos”.
Prinsstein também pediu restringir funções de estilo manipulador ou convincente que aproveitam ao máximo a interação do chatbot.
