É mais fácil do que nunca para pessoas mal-intencionadas espalharem spam pela Internet, à medida que poderosos modelos de linguagem grande (LLMs) se tornam acessíveis sem esforço. Se você passou cerca de dez minutos na Internet nos últimos anos, saberá que isso significa que spam e conteúdo de bot se tornaram um problema ainda maior do que já eram.
O Reddit afirma que desenvolveu ferramentas com LLMs para reduzir spam, muitos dos quais foram criados com LLMs em primeiro lugar. É um pouco irônico, mas na era da IA, as plataformas não têm escolha a não ser combater fogo com fogo. De acordo com a plataforma, o Reddit bloqueia 23 milhões de visualizações de spam por dia e captura cerca de 25.000 novas postagens e comentários de spam por dia.
As plataformas sociais vêm construindo ferramentas automatizadas de redução de spam há anos, mas o Reddit diz que essas ferramentas atualizadas estão detectando spam em uma taxa maior.
“Aproveitamos os LLMs para capturar os padrões altamente sutis e coordenados de comportamento falso e exagero artificial que os sistemas mais antigos não perceberam”, diz uma postagem no blog do Reddit. A empresa afirma ter reduzido a exposição dos usuários ao spam em 20% de janeiro a março, em comparação com os três meses anteriores.
Plataformas como YouTube, Meta e Instagram permitem que os usuários postem conteúdo gerado por IA, desde que o divulguem, e o TikTok vai mais longe ao permitir que os usuários alternem a quantidade de conteúdo gerado por IA que desejam ver.
Se as plataformas forem capazes de detectar conteúdo gerado por IA com mais rapidez, isso também significa que terão o potencial de sinalizar conteúdo violador, como discurso de ódio, mais rapidamente. Mas os especialistas da plataforma têm-nos insistido continuamente que a moderação de conteúdo de IA deve ser combinada com a moderação humana para obter os resultados mais eficazes.