Duas semanas atrás, a OpenAI anunciou que atrasaria o lançamento de seu “Modo Adulto”, uma configuração de chatbot NSFW que permite aos usuários participar de bate-papos eróticos e gerar “obscenidades”.
Uma fonte anônima da empresa disse recentemente ao jornalista Alex Heath que o atraso foi baseado em prioridades atualizadas, um movimento que parecia estar alinhado com a decisão da OpenAI de reduzir à luz das batalhas legais em andamento, desenvolver o GPT 5.4 e fechar acordos com o governo federal. Mas entrevistas com pessoas anônimas, publicadas esta semana pelo Wall Street Journal, contam uma história diferente.
VEJA TAMBÉM:
Grupo de segurança infantil critica YouTube por aposta de um milhão de dólares em conteúdo de IA para crianças
O conselho consultivo de bem-estar da empresa disse em uma reunião de janeiro que estava em acordo unânime de que a empresa não deveria avançar com o modo adulto proposto, disseram fontes ao WSJ. As preocupações de psicólogos e cientistas cognitivos foram ignoradas, disseram eles, após alertarem que os bate-papos com classificação X poderiam promover uma dependência emocional prejudicial à saúde – um problema existente entre os usuários padrão do ChatGPT.
Insiders disseram que um especialista alertou que ChatGPT se tornaria apenas um “treinador sexy de suicídio”.
Além disso, os consultores alertaram que as políticas de garantia de idade do chatbot – incluindo a sua nova tecnologia de previsão de idade – não eram robustas o suficiente para lidar com a experiência proibida para menores. De acordo com o WSJ, o sistema chegou a funcionar com uma taxa de erro de 12% ao classificar usuários menores. Pessoas de dentro disseram que isso resultaria em milhões de menores passando despercebidos e potencialmente acessando experiências de bate-papo inadequadas para o desenvolvimento.
Velocidade da luz mashável
VEJA TAMBÉM:
‘Predador perfeito’: quando chatbots abusam sexualmente de crianças
O concorrente da OpenAI, Meta, resistiu a um escândalo semelhante no ano passado, depois que documentos internos revelaram políticas frouxas de segurança do chatbot para usuários adolescentes. Desde então, a Meta reformulou suas políticas de IA para adolescentes, mas ainda permite que chatbots e avatares de IA se envolvam em “encenações românticas”.
Apesar das preocupações, a OpenAI afirma que avançará com o Modo Adulto no futuro.
Mas as equipes de segurança da OpenAI ainda estão descobrindo os detalhes de como a experiência funcionará, incluindo como suspender efetivamente as restrições de conteúdo explícito e, ao mesmo tempo, bloquear conteúdo como comportamento não consensual ou abuso sexual infantil, relata a publicação. Um porta-voz disse ao Wall Street Journal que o modo adulto permitiria aos usuários gerar conversas de texto de “nível obsceno”, mas não pornografia direta.
Eles também disseram que a taxa de erro na verificação de idade era “padrão da indústria” e que nunca poderia ser infalível.
Divulgação: Ziff Davis, empresa controladora da Mashable, em abril de 2025 entrou com uma ação contra a OpenAI, alegando que ela infringiu os direitos autorais de Ziff Davis no treinamento e operação de seus sistemas de IA.
Tópicos
Social GoodChatGPT
