A OpenAI pretende contratar um novo executivo responsável por estudar riscos emergentes relacionados à IA em áreas que vão desde segurança de computadores até saúde mental.
Numa publicação no X, o CEO Sam Altman reconheceu que os modelos de IA estão “começando a apresentar alguns desafios reais”, incluindo o “impacto potencial dos modelos na saúde mental”, bem como modelos que são “tão bons em segurança informática que estão começando a encontrar vulnerabilidades críticas”.
“Se você quiser ajudar o mundo a descobrir como capacitar os defensores da segurança cibernética com capacidades de ponta e, ao mesmo tempo, garantir que os invasores não possam usá-las para causar danos, de preferência tornando todos os sistemas mais seguros e, da mesma forma, como liberamos capacidades biológicas e até mesmo ganhamos confiança na segurança de sistemas em execução que podem melhorar a si mesmos, considere se inscrever”, escreveu Altman.
A listagem da OpenAI para a função de Chefe de Preparação descreve o trabalho como aquele que é responsável pela execução da estrutura de preparação da empresa, “nossa estrutura que explica a abordagem da OpenAI para rastrear e preparar capacidades de fronteira que criam novos riscos de danos graves”.
A empresa anunciou pela primeira vez a criação de uma equipa de preparação em 2023, dizendo que esta seria responsável por estudar potenciais “riscos catastróficos”, sejam eles mais imediatos, como ataques de phishing, ou mais especulativos, como ameaças nucleares.
Menos de um ano depois, a OpenAI transferiu o chefe de preparação, Aleksander Madry, para um cargo focado no raciocínio de IA. Outros executivos de segurança da OpenAI também deixaram a empresa ou assumiram novas funções fora da preparação e segurança.
A empresa também atualizou recentemente o seu Quadro de Preparação, afirmando que poderá “ajustar” os seus requisitos de segurança se um laboratório de IA concorrente lançar um modelo de “alto risco” sem proteções semelhantes.
Evento Techcrunch
São Francisco
|
13 a 15 de outubro de 2026
Como Altman aludiu em sua postagem, os chatbots generativos de IA têm enfrentado um escrutínio crescente em torno de seu impacto na saúde mental. Ações judiciais recentes alegam que o ChatGPT da OpenAI reforçou os delírios dos usuários, aumentou seu isolamento social e até levou alguns ao suicídio. (A empresa disse que continua trabalhando para melhorar a capacidade do ChatGPT de reconhecer sinais de sofrimento emocional e de conectar os usuários ao suporte do mundo real.)
