Centenas de contas no TikTok estão obtendo bilhões de visualizações ao divulgar conteúdo gerado por IA, incluindo material anti-imigrante e sexualizado, de acordo com um relatório.
Os pesquisadores disseram ter descoberto 354 contas focadas em IA, publicando 43.000 postagens feitas com ferramentas generativas de IA e acumulando 4,5 bilhões de visualizações durante um período de um mês.
De acordo com a AI Forensics, uma organização sem fins lucrativos com sede em Paris, algumas destas contas tentam burlar o algoritmo do TikTok – que decide que conteúdo os utilizadores veem – publicando grandes quantidades de conteúdo na esperança de que se torne viral.
Uma postada até 70 vezes ao dia ou no mesmo horário do dia, indicação de conta automatizada, e a maioria das contas foi lançada no início do ano.
No mês passado, o TikTok revelou que havia pelo menos 1,3 bilhão de postagens geradas por IA na plataforma. Mais de 100 milhões de conteúdos são carregados na plataforma todos os dias, indicando que o material rotulado de IA é uma pequena parte do catálogo do TikTok. O TikTok também oferece aos usuários a opção de reduzir a quantidade de conteúdo de IA que veem.
Das contas que postaram conteúdo com maior frequência, metade focou em conteúdos relacionados ao corpo feminino. “Essas mulheres IA são sempre estereotipadas e atraentes, com trajes ou decotes sexualizados”, disse o relatório.
A AI Forensics descobriu que as contas não rotulavam metade do conteúdo postado e menos de 2% carregavam o rótulo TikTok para conteúdo de IA – que a organização sem fins lucrativos alertou que poderia aumentar o potencial enganoso do material. Os pesquisadores acrescentaram que as contas às vezes escapam da moderação do TikTok por meses, apesar de postarem conteúdo proibido por seus termos de serviço.
Dezenas de contas reveladas no estudo foram posteriormente excluídas, disseram os pesquisadores, indicando que algumas foram removidas pelos moderadores.
Parte do conteúdo assumiu a forma de segmentos de notícias falsas com narrativas anti-imigrantes e material sexualizando corpos femininos, incluindo meninas que pareciam ser menores de idade. A categoria corporal feminina representou metade das 10 contas mais ativas, disse a AI Forensics, enquanto algumas das notícias falsas apresentavam marcas de radiodifusão conhecidas, como Sky News e ABC.
Algumas das postagens foram retiradas pelo TikTok após serem encaminhadas à plataforma pelo Guardian.
A TikTok disse que as afirmações do relatório eram “infundadas” e que os pesquisadores o identificaram como um problema que estava afetando várias plataformas. Em agosto, o Guardian revelou que quase um em cada dez canais do YouTube com crescimento mais rápido em todo o mundo exibia apenas conteúdo gerado por IA.
“No TikTok, removemos AIGC (conteúdo gerado por inteligência artificial) prejudicial, bloqueamos a criação de centenas de milhões de contas de bot, investimos em tecnologias de rotulagem de IA líderes do setor e capacitamos as pessoas com ferramentas e educação para controlar como elas experimentam esse conteúdo em nossa plataforma”, disse um porta-voz do TikTok.
Um exemplo de ‘desleixo’ de IA, conteúdo sem sentido e projetado para desorganizar os feeds das redes sociais. Fotografia: TikTok
As contas mais populares destacadas pela AI Forensics em termos de visualizações tinham publicado “slop”, o termo para conteúdo feito por IA que é absurdo, bizarro e concebido para desorganizar os feeds das pessoas nas redes sociais – como animais competindo numa competição de mergulho olímpico ou bebés falantes. Os pesquisadores reconheceram que parte do conteúdo era “divertido” e “fofo”.
pular a promoção do boletim informativo
Um mergulho semanal em como a tecnologia está moldando nossas vidas
Aviso de privacidade: Os boletins informativos podem conter informações sobre instituições de caridade, anúncios online e conteúdo financiado por terceiros. Se você não tiver uma conta, criaremos uma conta de convidado para você em theguardian.com para enviar este boletim informativo. Você pode concluir o registro completo a qualquer momento. Para mais informações sobre como utilizamos os seus dados consulte a nossa Política de Privacidade. Usamos o Google reCaptcha para proteger nosso site e a Política de Privacidade e os Termos de Serviço do Google se aplicam.
após a promoção do boletim informativo
As diretrizes do TikTok proíbem o uso de IA para representar fontes oficiais falsas, imagens de menores de 18 anos ou de adultos que não sejam figuras públicas.
“Esta investigação (de contas automatizadas) mostra como o conteúdo de IA está agora integrado às plataformas e a um ecossistema de viralidade maior”, disseram os pesquisadores.
“A linha tênue entre conteúdo humano autêntico e sintético gerado por IA na plataforma está sinalizando uma nova virada em direção a mais conteúdo gerado por IA nos feeds dos usuários.”
Os pesquisadores analisaram dados de meados de agosto a meados de setembro. Parte do conteúdo tenta ganhar dinheiro com os usuários, incluindo a promoção de suplementos de saúde por meio de falsos influenciadores, a promoção de ferramentas que ajudam a tornar o conteúdo viral de IA e a busca de patrocínios para postagens.
A AI Forensics, que também destacou a prevalência de conteúdo de IA no Instagram, disse que saudou a decisão do TikTok de permitir que os usuários limitassem a quantidade de conteúdo de IA que veem, mas que a rotulagem precisava melhorar.
“Dada a quantidade estrutural e não negligenciável de falhas na identificação de tal conteúdo, continuamos céticos quanto ao sucesso desse recurso”, disseram eles.
Os pesquisadores acrescentaram que o TikTok deveria considerar a criação de um recurso somente de IA no aplicativo, a fim de separar o conteúdo feito por IA das postagens criadas por humanos. “As plataformas devem ir além dos rótulos fracos ou opcionais de ‘conteúdo de IA’ e considerar a segregação do conteúdo generativo do material criado pelo homem, ou encontrar um sistema justo que imponha uma rotulagem sistemática e visível do conteúdo de IA”, afirmaram.
