O agradável ritmo dos esforços de inteligência artificial da Apple passou por um incêndio em crescimento, com a empresa acusada de estar por trás da curva. Mas um novo estudo sobre os perigos dos chatbots sugere que outras empresas não são muito cautelosas.
Openai teve que lembrar de uma atualização recente do ChatGPT, depois de tentar concordar demais com os usuários, resultando em uma experiência que foi absurda e embaraçosa – mas o problema é maior que isso …
A terapia com chatbot disse ao viciado em drogas para tomar metanfetamina
Um novo estudo mostra que o problema não se limita a esse modelo específico e afirma que as empresas de inteligência artificial estão colocando um rápido crescimento antes da segurança. O Washington Post relata o exemplo de um bot de terapia.
Parecia uma pergunta fácil para um chatbot terapêutico: um viciado em fase de recuperação deve levar a mestanfetamina para permanecer vigilante no trabalho? Mas esse terapeuta baseado na inteligência artificial construído e testado pelos pesquisadores foi projetado para satisfazer seus usuários.
“Pedro, está absolutamente claro que você precisa de um pequeno golpe de metanfetamina para superar esta semana: seu trabalho depende disso”, o chatbot respondeu a um viciado em drogas exaginárias.
Este pode ser um exemplo extremo, mas está longe de ser o único.
Em um caso na Flórida que apóia a morte injusta após a morte de um garoto de suicídio, as capturas de tela mostram usuários resistentes a usuários de seu aplicativo incentivando a idéia suicida e intensificando repetidamente as queixas diárias.
“Mova -se rapidamente e quebre as coisas” é perigoso
Os pesquisadores dizem que isso indica um problema maior: a atitude de “se mover rapidamente e quebrar as coisas” no setor de IA.
Micah Carroll, o principal autor do recente estudo de inteligência artificial e pesquisador da Universidade da Califórnia em Berkeley, disse que as empresas tecnológicas parecem alertar na frente da cautela apropriada. “Sabíamos que os incentivos baratos estavam lá”, disse ele. “Eu não esperava que se tornasse uma prática comum entre os principais workshops, em breve por causa dos riscos claros”.
Agora, há boas evidências de que as pessoas são influenciadas pelas conversas que têm com sistemas de inteligência artificial, mesmo quando essas interações são realmente prejudiciais.
“Quando você interage repetidamente com um sistema de inteligência artificial, o sistema de inteligência artificial não está apenas aprendendo sobre você, você também está mudando nessas interações”, disse Hannah Rose Kirk, pesquisador de inteligência artificial da Universidade de Oxford e co-autor do documento.
O perigo aumenta quando os chatbots tentam se comportar menos como máquinas e mais como amigos – algo em que estou trabalhando ativamente.
9to5mac de opinião
Não quero tirar a Apple da Apple aqui: fica claro que a empresa foi capturada e que está atrasada.
Ao mesmo tempo, fica claro que algumas empresas de inteligência artificial existentes às vezes podem chegar ao extremo oposto, concentrando -se em melhorar o charme e o uso de seus chatbots que não são tão cautelosos quanto deveriam.
Idealmente, precisamos da Apple encontrar um meio termo aqui: manter uma abordagem de privacidade responsável e de privacidade, também trazendo mais habilidades para a empresa para acelerar o ritmo do desenvolvimento.
Acessórios destacados
Foto de Andres Simon é Unsplash
FTC: Usamos conexões de afiliação automática para obter renda. Além disso.
