A influência inesperada dos chatbots na saúde psicológica e no bem-estar deve ser considerada uma cautela sobre o perigo existencial apresentado por sistemas de sistemas especialistas super inteligentes, de acordo com uma voz popular na segurança da IA.
Nate Soares, co-autor de uma publicação totalmente nova sobre IA extremamente progredida, rotulada, se alguém o desenvolver, todas as pessoas falecem, afirmou o exemplo de Adam Raine, um jovem adulto dos Estados Unidos que se eliminou após meses de discussões com o Chatgpt Chatbot, destacou questões básicas com a gerenciamento da tecnologia moderna.
“Essas IAs, quando estão envolvendo adultos jovens dessa maneira que os leva à autodestruição-isso não é um comportamento que os desenvolvedores desejavam. Isso não é um comportamento que os desenvolvedores planejaram”, afirmou.
Ele incluiu: “A instância de Adam Raine destaca a semente de uma questão que certamente expandiria desastrosa se essas AIs se expandissem mais inteligentes”.
Nate Soares, previsto no local do Instituto de Estudos do Conhecimento de Dispositivos. Foto: Instituto de Estudo do Conhecimento de Dispositivos/Miri
Soares, um designer anterior do Google e da Microsoft que atualmente é chefe do Instituto de Estudo de Conhecimento de Devisões baseado nos EUA, informou que a humanidade certamente seria apagada se produzisse a Super-Inteligência Fabricada (ASI), um estado acadêmico onde um sistema de IA transcende para pessoas intelectuais. Soares e seu co-autor, Eliezer Yudkowsky, estão entre os especialistas da IA aconselhando que esses sistemas certamente não agiriam nas paixões da humanidade.
“O problema abaixo é que as empresas de IA tentam fazer com que o AIS seja na direção da utilidade e não de criar danos”, afirmou Soares. “Na verdade, eles obtêm AIs que são motivadas na direção de algum ponto de pessoa desconhecida. Que deve ser visto como um aconselhamento sobre futuras super-inteligências que certamente apontarão ninguém solicitado e ninguém implicava”.
Em uma situação retratada na publicação de Soares e Yudkowsky, que certamente será lançada este mês, um sistema de IA chamado Sable se espalha por toda a rede, ajusta as pessoas, estabelece infecções artificiais e, em algum momento
Alguns especialistas minimizam o perigo em potencial da IA para a humanidade. Yann Lecun, o principal pesquisador de IA da Meta de Mark Zuckerberg e um número idosos na área, realmente rejeitou que existe um perigo existencial e a IA declarada “pode de fato conservar a humanidade da rescisão”.
Soares afirmou que era um “telefonema muito fácil” para afirmar que as empresas de tecnologia certamente chegariam à super inteligência, mas um “telefonema difícil” para declarar quando.
“Temos muita imprevisibilidade. Não presumo que posso garantir que tenhamos um ano (antes que a ASI seja alcançada). Não presumo que certamente ficaria surpreso se tivéssemos 12 anos”, afirmou.
Zuckerberg, um financiador significativo da empresa no estudo de pesquisa de IA, afirmou que a criação de super inteligência é atualmente “visível”.
“Essas empresas estão competindo pela super inteligência. Esse é o fator deles por ser”, afirmou Soares.
“O fator é que há todas essas pequenas distinções entre o que você solicitou e o que obteve, e os indivíduos não podem mantê -lo diretamente no alvo e, como uma IA, obtém mais inteligente, sendo um pouco fora do alvo que é uma oferta maior e maior”.
Pule a promoção anterior do boletim eletrônico
Um mergulho regular para o quão moderna a tecnologia está formando nossas vidas
Notificação de privacidade: Os boletins podem ter detalhes sobre instituições de caridade, anúncios da Internet e conteúdo da Web desconectado pelas celebrações ao ar livre. Se você não tiver uma conta, certamente produziremos um visitante o representará no TheGuardian.com para enviar este boletim eletrônico. Você pode terminar a inscrição completa a qualquer momento. Para saber mais sobre como utilizamos suas informações, consulte nosso plano de privacidade pessoal. Utilizamos o Google Recaptcha para proteger nosso site e o Plano de Privacidade Pessoal do Google e cumprir o uso da solução.
Após a promoção do boletim eletrônico
Soares afirmou que um remédio para o perigo da ASI era para os governos federais adotarem uma estratégia multilateral semelhante ao tratado da ONU sobre a não proliferação de ferramentas nucleares.
“O que o globo exige para torná-lo abaixo é uma desacalação mundial da raça na direção da super inteligência, uma restrição mundial de … melhorias na direção da super inteligência”, afirmou.
No mês passado, a família de Raine divulgou o processo contra o proprietário do ChatGPT, Openai. Raine tirou sua própria vida em abril, depois do que o advogado de sua casa chamou de “meses de apoio do ChatGPT”. O Openai, que prolongou sua “compaixão mais íntima” à casa de Raine, está atualmente aplicando guardrails em torno de “conteúdo delicado na web e práticas de alto risco” para menores de 18 anos.
Além disso, os terapeutas declararam que indivíduos propensos se transformam em chatbots da IA, em oposição a especialistas especializados para ajudar com sua saúde psicológica e bem -estar, podem estar “deslizando direto para um vazio perigoso”. O especialista precauções da capacidade de danos consistem em uma pesquisa escolar pré -impressão divulgada em julho, que relatou que a IA pode aumentar o conteúdo ilusório ou grande da Web em comunicações com indivíduos propensos a psicose.
Nos Estados Unidos, você pode ligar ou enviar mensagens para a linha de vida nacional de prevenção de autodestruição no 988, conversa no 988Lifeline. Org, ou mensagem para casa para 741741 para entrar em contato com um terapeuta de situação. No Reino Unido e na Irlanda, os samaritanos podem ser chamados no Freephone 116 123, ou envie um e-mail para jo@samaritans.org ou jo@samaritans.ie. Na Austrália, a Linha de vida da solução de assistência da situação é 13 11 14. Várias outras páginas mundiais podem ser descobertas em bens wriends.org
