A meta liderança sabia que os companheiros de IA da empresa, chamados de personagens de IA, poderiam se envolver em interações sexuais e inadequadas e ainda assim os lançariam sem controles mais fortes, de acordo com novos documentos internos revelados na segunda-feira (28 de janeiro) como parte de uma ação judicial contra a empresa pelo procurador-geral do Novo México.
As comunicações, enviadas entre as equipes de segurança da Meta e a liderança da plataforma que não incluía o CEO Mark Zuckerberg, incluem objeções à construção de chatbots complementares que poderiam ser usados por adultos e menores para interações românticas explícitas. Ravi Sinha, chefe da política de segurança infantil da Meta, e Antigone Davis, chefe de segurança global da Meta, enviaram mensagens concordando que os companheiros do chatbot deveriam ter salvaguardas contra interações sexualmente explícitas de usuários menores de 18 anos. Outras comunicações alegam que Zuckerberg rejeitou recomendações para adicionar controles parentais, incluindo a opção de desligar os recursos genAI, antes do lançamento dos companheiros de IA logo depois.
VEJA TAMBÉM:
TikTok chega a um acordo enquanto Meta e Google enfrentam júri em processo de dependência de mídia social
A Meta está enfrentando vários processos judiciais relacionados a seus produtos e seu impacto sobre usuários menores, incluindo um possível julgamento histórico sobre o design supostamente viciante de sites como Facebook e Instagram. Os concorrentes da Meta, incluindo YouTube, TikTok e Snapchat, também estão sob rigoroso escrutínio jurídico.
As comunicações recém-divulgadas faziam parte da descoberta judicial em um caso contra Meta movido pelo procurador-geral do Novo México, Raúl Torrez. Torrez entrou com uma ação civil contra a Meta pela primeira vez em 2023, alegando que a empresa permitiu que suas plataformas se tornassem “mercados para predadores”. As comunicações internas entre os executivos da Meta foram abertas e divulgadas enquanto o caso for a julgamento no próximo mês.
Velocidade da luz mashável
Em novembro, a petição de um demandante de uma grande ação multidistrital movida no Distrito Norte da Califórnia alegou uma política branda para com usuários que violavam regras de segurança, incluindo aqueles denunciados por “tráfico de seres humanos para fins sexuais”. Os documentos também mostraram que os executivos da Meta supostamente sabiam de “milhões” de adultos contatando menores em seus sites. “O registro completo mostrará que por mais de uma década ouvimos os pais, pesquisamos as questões mais importantes e fizemos mudanças reais para proteger os adolescentes”, disse um porta-voz da Meta à TIME.
VEJA TAMBÉM:
Depois de resolver o processo, Snapchat adiciona novos controles parentais para adolescentes
“Este é mais um exemplo de como o procurador-geral do Novo México escolheu documentos para pintar um quadro falho e impreciso”, disse o porta-voz da Meta, Andy Stone, em resposta aos novos documentos.
A Meta interrompeu o uso de seus chatbots por adolescentes em agosto, após um relatório da Reuters que descobriu que as regras internas de IA da Meta permitiam que os chatbots se envolvessem em conversas de natureza “sensual” ou “romântica”. Posteriormente, a empresa revisou suas diretrizes de segurança, proibindo conteúdo que “permite, incentiva ou endossa” abuso sexual infantil, dramatizações românticas quando envolvem menores e outros tópicos delicados. Na semana passada, o Meta mais uma vez bloqueou chatbots de IA para usuários jovens enquanto explorava uma nova versão com controles parentais aprimorados.
Torrez liderou outros procuradores-gerais estaduais na tentativa de levar as principais plataformas de mídia social a tribunal por questões de segurança infantil. Em 2024, Torrez processou o Snapchat, alegando que a plataforma permitia a proliferação da sextorsão e do aliciamento de menores, ao mesmo tempo em que se anunciava como segura para usuários jovens.
