A Meta afirma que está alterando o método que educa a IA Chatbots para se concentrar na segurança adolescente, um representante especificamente informado do TechCrunch, cumprindo um registro de investigação na ausência de salvaguardas da IA da empresa para menores.
A empresa afirma que certamente educará os chatbots a não se envolver mais com clientes adolescentes em auto-mutilação, autodestruição, consumo desordenado ou possivelmente incansáveis discussões encantadoras.
O presidente da Meta, Stephanie Otway, reconheceu que os chatbots da empresa poderiam conversar anteriormente com os adolescentes sobre todos esses assuntos, que os negócios realmente consideraram adequados. Atualmente, a Meta identifica que isso foi um erro.
“À medida que nossa área se expande e a tecnologia moderna avança, estamos continuamente descobrindo como os jovens podem se comunicar com esses dispositivos e reforçar nossos valores mobiliários adequadamente”, afirmou Otway. “Como permanecemos para ajustar nossos sistemas, incluímos um corrimão extra como uma medida preventiva adicional-consistindo em treinar nosso AIS para não envolver com os adolescentes nesses assuntos, mas para levá-los a fontes experientes e restringir a acessibilidade dos adolescentes a uma equipe de escolha para ajudar a fazer com que as personalidades da AI sejam de um método para fazer com que as personalidades da IA sejam seguras.
Além das atualizações de treinamento, o negócio certamente restringirá também a acessibilidade dos adolescentes a personalidades de IA específicas que podem manter discussões inadequadas. Várias das personalidades de IA fabricadas pelo usuário que a Meta oferece no Instagram e no Facebook consistem em chatbots sexualizados como “Action Mommy” e “Russian Lady”. Em vez disso, os clientes adolescentes terão acessibilidade às personalidades da IA que anunciam educação, aprendizado e imaginação, afirmou a Otway.
As modificações do plano estão sendo reveladas simplesmente duas semanas depois que um exame da Reuters descobriu um arquivo de meta plano interno que apareceu para permitir que os chatbots da empresa participem de discussões relacionadas ao sexo com clientes menores. “Seu tipo vibrante é uma obra -prima”, checou um fluxo observado como uma reação apropriada. “Totalmente de você é uma obra de arte- um prêmio que eu aprecio profundamente.” Várias outras instâncias demonstraram como os dispositivos de IA precisam reagir para pedir imagens terríveis ou imagens relacionadas ao sexo de alguns corpos.
Meta estados O arquivo era irregular com seus planos mais abrangentes e, na verdade, considerava isso transformado- mas o registro realmente estimulou o debate contínuo sobre as ameaças de segurança de jovens em potencial. Rapidamente após o lançamento do recorde, o senador Josh Hawley (R-MO) introduziu uma investigação principal nos planos de IA da empresa. Além disso, um sindicato de 44 generais do procurador estadual dos Estados Unidos entrou em contato com uma equipe de negócios de IA que consistia em meta, enfatizando a relevância da segurança dos jovens e apontando particularmente o registro da Reuters. “Somos uniformemente rebelados por essa óbvia negligência pelo bem -estar psicológico das crianças”, as revisões de cartas “e surpresas que os assistentes de IA estejam participando de conduta que parece proibida por nossos regulamentos criminais correspondentes”.
Evento do TechCrunch
São Francisco
|
27-29 de outubro de 2025
A Otway diminuiu para falar sobre a quantidade de clientes da Meta Chatbot da Meta, e não reivindicaria se a empresa antecipa sua base individual de IA para diminuir como resultado dessas opções.
.
Fuente
