Início Tecnologia OpenAI dissolve equipe de alinhamento de missão, que se concentrava no desenvolvimento...

OpenAI dissolve equipe de alinhamento de missão, que se concentrava no desenvolvimento de IA “seguro” e “confiável”

20
0
Sam Altman, chief executive officer of OpenAI

A OpenAI dissolveu uma equipe que se concentrava em – como a própria empresa descreveu – garantir que seus sistemas de IA fossem “seguros, confiáveis ​​e consistentemente alinhados com os valores humanos”. Ao mesmo tempo, o ex-líder da equipe recebeu um novo papel como “chefe futurista” da empresa.

A OpenAI confirmou ao TechCrunch que os membros da equipe foram atribuídos a outras funções. A notícia foi relatada pela primeira vez por Platformer.

A equipe extinta em questão, que parece ter sido formada em setembro de 2024, era a unidade interna da startup dedicada a trabalhar no alinhamento. Esse é um amplo campo de interesse dentro da indústria que procura garantir que a IA atue de acordo com os interesses humanos.

“Queremos que esses sistemas sigam consistentemente a intenção humana em cenários complexos do mundo real e condições adversárias, evitem comportamentos catastróficos e permaneçam controláveis, auditáveis ​​e alinhados com os valores humanos”, declara uma postagem do blog Alignment Research da OpenAI.

Um anúncio de emprego OpenAI para a equipe de Alinhamento descreve-o como sendo dedicado à pesquisa de IA que se concentra no “desenvolvimento de metodologias que permitem que a IA siga de forma robusta a intenção humana em uma ampla gama de cenários, incluindo aqueles que são adversários ou de alto risco”.

Em uma postagem de blog publicada na quarta-feira, Josh Achiam, ex-chefe da equipe de alinhamento da OpenAI, explicou sua nova função como futurista-chefe da empresa. “Meu objetivo é apoiar a missão da OpenAI – garantir que a inteligência artificial geral beneficie toda a humanidade – estudando como o mundo mudará em resposta à IA, AGI e muito mais”, escreveu Achiam.

Achiam observou que, em sua nova função, colaboraria com Jason Pruet, físico da equipe técnica da OpenAI.

Evento Techcrunch

Boston, MA
|
23 de junho de 2026

Um porta-voz da OpenAI disse que o restante da equipe de Alinhamento – um grupo de seis ou sete pessoas – foi posteriormente transferido para diferentes partes da empresa. O porta-voz não soube dizer exatamente onde os membros da equipe foram designados, mas disse que eles estavam envolvidos em trabalhos semelhantes nessas funções. Também não estava claro se Achiam teria uma nova equipe como parte de seu papel “futurista”.

O porta-voz atribuiu a dissolução da equipe aos tipos de reorganizações de rotina que ocorrem dentro de uma empresa em rápida evolução.

Anteriormente, a OpenAI tinha o que chamava de “equipe de superalinhamento” – que foi formada em 2023 e focada no estudo de ameaças existenciais de longo prazo representadas pela IA – mas essa equipe foi dissolvida em 2024.

O site pessoal de Achiam ainda o lista como chefe de Alinhamento de Missões na OpenAI e o descreve como interessado em garantir que o “futuro de longo prazo da humanidade seja bom”. Seu perfil no LinkedIn mostra que ele serviu como Chefe de Alinhamento de Missão desde setembro de 2024.

Fuente