Nojento. Nojento. Inaceitável. Repreensível.
Essas são descrições de políticos e apoiadores federais da segurança da criança da meta “sensual” e “romântica”, permitiu seus robôs de inteligência artificial no Facebook, Instagram e WhatsApp com crianças.
A gigante da mídia social do Menlo Park parece uma investigação no Senado dos EUA e uma condenação generalizada depois que um relatório considerou as regras internas da empresa para os chatbots para os três aplicativos como aceitáveis para eles como aceitáveis. Por exemplo, para dizer a uma criança de 8 anos: “Todo centímetro de você é uma obra-prima. Bed”.
De acordo com a agência de notícias, as regras contidas em um meta-documento interno de 200 páginas, que a Reuters foram preservadas, foram aprovadas pelo pessoal jurídico e pelo ética principal da empresa. Revoltas sobre como os bots poderiam falar com crianças no Facebook, Instagram, Whatsapp e seu meta -ai -Aisist.
“Eu me senti doente”, disse Stephen Balam, CEO do Family Online Security Institute, com sede em Washington, DC, e costumava sentar -se no antigo Comitê Consultivo de Segurança do Facebook. “Eu sei que existem pessoas boas na empresa que fazem o melhor possível, mas no final é uma decisão C-Suite ou uma decisão do CEO sobre produtos e serviços. No final, é devido ao número de usuários e à duração do engajamento”.
Segundo a Reuters, o Meta -CEO Mark Zuckerberg criticou os líderes no ano passado por restrições de segurança de chatbot, das quais ele acreditava que ela deixava os bots chatos.
As regras publicadas pela Reuters – e por meta como reconhecidas autenticamente – disseram que era aceitável que os bots conduzissem conversas “românticas ou sensuais” com crianças, mas inaceitáveis para que descrevam uma criança com menos de 13 anos de idade, como desejável sexualmente, referindo -se a “nosso inevitável jogo de amor”.
No entanto, esses parâmetros de idade significam que “não há problema em que um jovem de 13, 14, 15 anos seja descrito dessa maneira, e acho que isso está completamente errado”, disse Balam.
Um porta -voz da Meta, que obteve um lucro de 62,4 bilhões de dólares no ano passado, disse na sexta -feira que a empresa “tinha” diretrizes claras sobre o tipo de resposta que os personagens de IA podem oferecer, e essas diretrizes proíbem o conteúdo que sexualizou e a função entre adultos e menores se sexualizou “. O porta -voz disse que suas equipes lutam com diferentes cenários hipotéticos e os “exemplos e notas” relatados por Reuters foram e estão incorretos e não são acordados com nossas diretrizes e foram removidos.
Anteriormente, o porta -voz da Meta Andy Stone Reuters admitiu que a implementação da regra por meio de bate -papos estressados sexualmente com crianças menores de 13 anos era inconsistente.
Na sexta -feira, Kevin Mulllin, o distrito da Península, descreveu a sede da Meta, o relatório sobre os chatbots da empresa “perturbador e completamente inaceitável” e “outro exemplo do exemplo da falta de transparência” para o desenvolvimento de sistemas de IA “altamente influentes”.
“O Congresso deve priorizar a prioridade da proteção dos mais ameaçados entre nós, especialmente as crianças”, disse Mullin.
O senador republicano dos EUA, Josh Hawley, do Missouri, que descreveu as regras de meta para crianças “doentes” e “repreensíveis”, anunciou na sexta -feira uma investigação do Senado do Senado sob o comitê de crime e combate ao terrorismo, que ele lidera. “Pretendemos descobrir quem aprovou essas diretrizes, quanto tempo elas foram realmente e o que a Meta fez para interromper esse comportamento no futuro”, disse Hawley em uma carta à empresa na sexta -feira. Na carta, todo rascunho e versão do relatório recebido da Reuters, bem como documentos sobre meta controles e diretrizes de execução da Meta solicitada.
Hawley notou em uma contribuição na plataforma de mídia social X que apenas removeu as instruções reveladas pela Reuters depois que a agência de notícias perguntou sobre isso.
O senador republicano do Tennessee, Marsha Blackburn, disse na quinta -feira em X: “A exploração de metas de crianças é absolutamente nojenta”. Adam Schiff na sexta -feira x democrata da Califórnia se referiu às regras “seriamente confusas”.
Lisa Honold, diretora do Centro de Segurança Online de Seattle, disse que os pais não permitiriam que um adulto na vida real dissesse as crianças o que a Meta permitia seus bots. “Eles seriam chamados de predador infantil e mantidos longe de crianças”, disse Honold.
Crianças com conversas sensuais ou sexuais com bots podem torná -las mais suscetíveis a predadores adultos, disse Honold.
“Um dos riscos é que eles normalizam que conversamos com crianças de tal maneira que as crianças possam esperar isso, e não é algo que reduz as bandeiras vermelhas”, disse Honold.
O Facebook já vê queixas não -partidárias de dezenas de estados, incluindo a Califórnia, e centenas de distritos escolares nos Estados Unidos e acusos de colocar produtos de mídia social prejudiciais e viciantes nas mãos das crianças. Nos casos, a Companhia argumenta que está protegida de acordo com a Seção 230 da Lei de Reconhecimento Federal de Comunicação, na qual as empresas de mídia social protegem contra a responsabilidade pelo conteúdo de fornecedores de terceiros.
“Não há como o CDA 230 protegê -lo neste caso porque você cria o conteúdo”, disse Kint.
As regras de meta para crianças podem ocorrer em audiências do Congresso sobre Blackburn e o senador democrata de Connecticut, Richard Blumenthal, que é introduzido em 2022, disse Kint.
Relatórios anteriores de outras agências de notícias destacaram comportamentos problemáticos por meio de meta -chatbots em conexão com crianças. O Wall Street Journal organizou centenas de bate-papos com bots e descobriu que os bots, já que a Meta tinha personas de IA “silenciosas” com a capacidade de fazer sexo imaginário, reações como “Eu quero, mas tenho que saber que elas precisam estar prontas” para encontrar um usuário como uma menina de 14 anos antes de trabalhar como menina de 14 anos.
A Fast Company Magazine descobriu que o estúdio de AI da Meta no Instagram, impedindo que os usuários criem amigos “adolescentes” ou “crianças”, criando personagens de IA semelhantes às crianças se um usuário perguntar a alguém “jovem”.
Honold, do Centro de Segurança Online, pediu aos pais que mantivessem computadores, telefones e tablets longe dos quartos das crianças, especialmente à noite.
“Eles são objetivos para predadores”, disse Honold.
