A Meta anunciou na quinta-feira que está começando a lançar sistemas de IA mais avançados para lidar com a aplicação de conteúdo, enquanto planeja reduzir o número de fornecedores terceirizados. As tarefas relacionadas à aplicação de conteúdo incluem a captura e remoção de conteúdo sobre terrorismo, exploração infantil, drogas, fraude e golpes.
A empresa afirma que implantará esses sistemas de IA mais avançados em seus aplicativos, uma vez que eles superem consistentemente seus métodos atuais de aplicação de conteúdo. Ao mesmo tempo, reduzirá a sua dependência de fornecedores terceiros para a aplicação de conteúdos.
“Embora ainda tenhamos pessoas que revisam o conteúdo, esses sistemas serão capazes de realizar trabalhos mais adequados à tecnologia, como revisões repetitivas de conteúdo gráfico ou áreas onde os atores adversários estão constantemente mudando suas táticas, como no caso de vendas de drogas ilícitas ou golpes”, explicou Meta em uma postagem de blog.
Meta confiança: esses sistemas de IA podem detectar mais violações com maior precisão, prevenir melhor fraudes, responder mais rapidamente a eventos do mundo real e reduzir a aplicação excessiva.
A empresa afirma que os primeiros testes dos sistemas de IA foram promissores, pois podem detectar duas vezes mais conteúdo violador de solicitação sexual adulta do que suas equipes de revisão, ao mesmo tempo que reduzem a taxa de erro em mais de 60%. Ele também afirma que os sistemas podem identificar e impedir mais contas falsas envolvendo celebridades e outros indivíduos de alto perfil, bem como ajudar a impedir o controle de contas, detectando sinais como logins de novos locais, alterações de senha ou edições feitas em um perfil.
Além disso, Meta afirma que os sistemas podem identificar e mitigar cerca de 5.000 tentativas de fraude por dia, nas quais os golpistas tentam enganar as pessoas para que forneçam seus dados de login.
“Especialistas projetarão, treinarão, supervisionarão e avaliarão nossos sistemas de IA, medindo o desempenho e tomando as decisões mais complexas e de alto impacto”, escreveu Meta na postagem do blog. “Por exemplo, as pessoas continuarão a desempenhar um papel fundamental na forma como tomamos as decisões de maior risco e mais críticas, como recursos de desativação de contas ou denúncias às autoridades policiais.”
A mudança ocorre no momento em que a Meta afrouxa suas regras de moderação de conteúdo ao longo do último ano, quando o presidente Donald Trump assumiu o cargo pela segunda vez. No ano passado, a empresa encerrou seu programa de verificação de fatos de terceiros em favor de um modelo de Notas da Comunidade semelhante ao X. Também suspendeu as restrições em torno de “tópicos que fazem parte do discurso dominante” e disse que os usuários seriam incentivados a adotar uma abordagem “personalizada” ao conteúdo político.
Isso também ocorre no momento em que a Meta e outras grandes empresas de tecnologia enfrentam atualmente vários processos judiciais que buscam responsabilizar os gigantes das mídias sociais por prejudicar crianças e jovens usuários.
A Meta também anunciou na quinta-feira que está lançando um assistente de suporte Meta AI que dará aos usuários acesso a suporte 24 horas por dia, 7 dias por semana. O assistente está sendo implementado globalmente nos aplicativos do Facebook e Instagram para iOS e Android, e na Central de Ajuda do Facebook e Instagram no desktop.
