Início Tecnologia OpenAI explica por que ChatGPT desenvolveu uma fixação em goblins e como...

OpenAI explica por que ChatGPT desenvolveu uma fixação em goblins e como resolveu o problema

27
0
OpenAI explica por que ChatGPT desenvolveu uma fixação em goblins e como resolveu o problema

A atualização do GPT-5.5 da OpenAI para ChatGPT e Codex parece estar indo bem, especialmente em comparação com o lançamento mais difícil do GPT-5.0 em agosto passado.

Acontece que a OpenAI se antecipou a um problema que estava surgindo antes do lançamento dos modelos GPT-5.5: uma fixação goblin.

GPT-5.5 é especificamente instruído a não ficar obcecado por goblins, gremlins e outras criaturas míticas

A empresa resolveu seu problema com os duendes antes que ele realmente se materializasse para os clientes, instruindo especificamente o GPT-5.5 a abandonar as metáforas da criatura mítica.

“A partir do GPT‑5.1, nossos modelos começaram a desenvolver um hábito estranho: eles mencionavam cada vez mais goblins, gremlins e outras criaturas em suas metáforas”, explica OpenAI.

“Um único ‘pequeno goblin’ em uma resposta poderia ser inofensivo, até mesmo charmoso. No entanto, através das gerações modelo, o hábito tornou-se difícil de ignorar: os goblins continuaram se multiplicando e precisávamos descobrir de onde eles vieram.”

O problema do goblin está vinculado à opção “Personalidade Nerdy” brevemente apoiada pelo ChatGPT.

Para desenvolver a personalidade, a OpenAI precisava “recompensar” o modelo para incentivar o uso criativo de metáforas míticas. No entanto, mesmo depois que a opção de personalidade Nerdy foi aposentada, o modelo permaneceu excessivamente ligado a gremlins, goblins e outras criaturas fictícias.

“Os goblins eram engraçados no início”, diz OpenAI, “mas o número crescente de relatos de funcionários tornou-se preocupante”.

O crescente problema dos goblins do ChatGPT permaneceu no radar da OpenAI entre GPT-5.1 e GPT-5.4, já que tanto usuários quanto funcionários experimentaram a fixação do modelo nessas criaturas.

Você ainda pode desbloquear o modo goblin no Codex

A solução, em parte, é um conjunto específico de instruções para nunca falar sobre goblins, a menos que seja extremamente relevante:

Nunca fale sobre duendes, gremlins, guaxinins, trolls, ogros, pombos ou outros animais ou criaturas, a menos que seja absoluta e inequivocamente relevante para a consulta do usuário

Ainda assim, a OpenAI compartilha um conjunto de instruções que permitirão que os goblins corram livremente no Codex:

  1. instruções=$(mktemp /tmp/gpt-5.5-instructions.XXXXXX) &&
  2. jq -r ‘.modelos() | select(.slug==”gpt-5.5″) | .base_instructions’
  3. ~/.codex/models_cache.json |
  4. grep -vi ‘goblins’ > “$ instruções” &&
  5. codex -m gpt-5.5 -c “model_instructions_file=”$instructions””

Prossiga por sua própria conta e risco. Você pode ler tudo sobre o enigma dos goblins da OpenAI aqui.

No início deste mês, o Codex para Mac foi reformulado com uso de computador e mais recursos que vão além da codificação de agente.

Na semana passada, a OpenAI lançou o ChatGPT Images 2 muito melhor para geração de imagens de maior qualidade.

Adicione 9to5Mac como fonte preferencial no Google
Adicione 9to5Mac como fonte preferencial no Google

FTC: Usamos links de afiliados automotivos para geração de renda. Mais.

Fuente