Quando a OpenAI anunciou o GPT-5.2 pela primeira vez no mês passado, ela divulgou discretamente um novo recurso de segurança chamado de “previsão de idade”. Considerando que o ChatGPT propriamente dito não é exatamente um tipo de ferramenta para “todas as idades”, faz sentido que usuários menores de 18 anos tenham proteções para protegê-los de conteúdo prejudicial. A empresa afirma que os usuários que indicam ter menos de 18 anos já recebem uma experiência alterada para “reduzir a exposição a conteúdo sensível ou potencialmente prejudicial”, mas se o usuário não compartilhar voluntariamente sua idade com a OpenAI, como a empresa aplica essas proteções? É aqui que entra a previsão da idade.
Como funciona a previsão de idade para ChatGPT
Na terça-feira, a OpenAI anunciou oficialmente sua nova política de previsão de idade, que, como outros sistemas de verificação de idade usados por empresas como Roblox, usa IA para adivinhar a idade de um usuário. Se o sistema decidir que um determinado usuário tem menos de 18 anos, a OpenAI ajustará a experiência de acordo, com o objetivo de manter todas as interações adequadas à idade.
Veja como funciona: o modelo de previsão da nova era analisa tanto o comportamento do usuário dentro do aplicativo quanto os dados gerais da conta. Isso inclui coisas como a idade da conta, os horários do dia em que o usuário acessa o ChatGPT, os padrões de uso e, é claro, a idade que o usuário afirma ter. Olhando para todos esses dados, o modelo determina a idade provável do usuário. Se a modelo achar que tem mais de 18 anos, terá a experiência completa; se a modelo achar que tem menos de 18 anos, terá uma “experiência mais segura”. Se o modelo não estiver confiante, o padrão é uma experiência mais segura.
O que há de restrito na versão “mais segura” do ChatGPT
Essa experiência limitada significa que alguém que a modelo pensa ter menos de 18 anos tentará reduzir os seguintes tipos de conteúdo:
-
Violência gráfica ou sangue coagulado
-
Desafios virais que podem inspirar “comportamentos arriscados ou prejudiciais”
-
Dramatização de natureza sexual, romântica ou violenta
-
Descrições de automutilação
-
Conteúdo que promova padrões de beleza “extremos”, dietas pouco saudáveis ou vergonha do corpo
A empresa afirma que sua abordagem é baseada em “contribuições de especialistas”, bem como na literatura que discute a ciência do desenvolvimento infantil. (Não está claro se quanto dessa contribuição provém de entrevistas diretas e coordenação com especialistas, e quanto, se houver, provém de pesquisas independentes.) A empresa também reconhece “diferenças conhecidas entre os adolescentes na percepção de risco, controle de impulsos, influência dos pares e regulação emocional” quando comparados aos adultos.
A IA nem sempre é boa na previsão de idade
O maior risco de qualquer um desses modelos de previsão de idade é que às vezes eles erram – a alucinação é um hábito infeliz que todos os modelos de IA compartilham. Isso vale para os dois lados: você não quer que alguém muito jovem acesse conteúdo impróprio no ChatGPT, mas também não quer que alguém com mais de 18 anos fique preso a uma conta limitada sem motivo. Se você passar pela última situação, a OpenAI tem uma solução para você: verificação direta de idade por meio do Persona. Este é o mesmo Roblox de terceiros que usa para verificação de idade, que não tem funcionado muito bem até agora.
O que você acha até agora?
Isso não significa necessariamente a ruína para o OpenAI. Roblox tentou revisar seu sistema de verificação de idade para uma enorme base de usuários, todos acostumados a um certo tipo de experiência multijogador, o que fazia com que os usuários não pudessem conversar com outros usuários em categorias de idade recém-atribuídas, que muitas vezes eram incorretas. Enquanto isso, a previsão de idade do ChatGPT controla apenas a experiência de um usuário por vez. Para esse fim, o OpenAI permitirá que você carregue uma selfie como uma etapa adicional de verificação se o modelo de previsão por si só não for suficiente. Curiosamente, a OpenAI não diz nada sobre a opção de fazer upload de um ID para verificação, fornecida por outras empresas, como o Google.
Não sou necessariamente um fã de modelos de previsão de idade, pois acho que eles muitas vezes sacrificam a privacidade do usuário em nome da criação de experiências adequadas à idade. Mas não há dúvidas de que a OpenAI precisa fazer algo para limitar a experiência completa do ChatGPT para usuários mais jovens. Muitos dos usuários do ChatGPT têm menos de 18 anos e grande parte do conteúdo que eles acessam é totalmente inapropriado, sejam instruções sobre como ficar chapado ou conselhos sobre como escrever notas de suicídio. Em alguns casos trágicos, menores tiraram a própria vida após discussões com ChatGPT, levando a ações judiciais contra a OpenAI.
Não tenho ótimas respostas aqui. Teremos apenas que ver como esse novo modelo de previsão de idade afeta a experiência do usuário, tanto para menores quanto para adultos, e se ele realmente consegue criar uma experiência mais segura para usuários mais jovens e mais impressionáveis.
