Uma decisão da plataforma de mídia social X de Elon Musk de envolver os bots de bate -papo de inteligência artificial para estabelecer os riscos de verificações de fatos, aumentando a promoção de “mentiras e teorias da conspiração”, alertou um ex -ministro da tecnologia.
Damian Collins acusou a empresa de Musk de “Partir para os bots para editar as notícias” depois que X anunciou na terça -feira que o grande modelo de idioma poderia escrever para escrever ou corrigir notas da comunidade antes de serem aprovadas para publicação pelos usuários. As notas foram escritas anteriormente por pessoas.
X disse que o uso da IA para escrever o controle de fatos – notas – que estão sob algumas mensagens X – “promove o estado da arte para melhorar a qualidade da informação na internet”.
Keith Coleman, vice-presidente do produto da X, disse que as pessoas revisariam as anotações geradas pela IA e o memorando só apareceria se pessoas com diferentes pontos de vista pensassem que era útil.
“Projetamos esse piloto para ser uma IA que ajude as pessoas, com pessoas que decidem”, disse ele. “Acreditamos que isso pode oferecer alta e alta confiança. Além disso, publicamos um artigo juntamente com o lançamento de nosso piloto, co-autor de professores e pesquisadores da MIT, Universidade de Washton, Harvard e Stanford, que explica por que essa combinação de IA e pessoas é uma direção tão promissora”.
Mas Collins disse que o sistema já estava aberto a abusos e que os agentes da IA que trabalham em anotações da comunidade “podem permitir a manipulação industrial do que as pessoas veem e decidem confiar” na plataforma que tem cerca de 600 milhões de usuários.
É a mais nova reação contra verificadores de fatos humanos pelas empresas de tecnologia americanas. No mês passado, o Google disse que as verificações de fatos criadas por usuários, incluindo organizações profissionais de verificação de fatos, seriam despiorizadas em seus resultados de pesquisa. Ele disse que essas verificações “não produziram mais um valor extra considerável para os usuários”. Em janeiro, a Meta anunciou que excluiu verificadores de fatos humanos nos EUA e assumiram seu próprio sistema de notas comunitárias no Instagram, Facebook e tópicos.
Artigo de pesquisa de X no qual seu novo sistema de controle de fatos foi explicado, tantas vezes criticava a verificação de fatos profissionais lenta e limitada em escala e disse que “não confia em grandes partes do público”.
A AI-Created Community observa que “pode ser potencial produzir mais esforços mais rápidos e menos para gerar e gerar alta qualidade”, disse isso. As notas seriam enviadas no mesmo pool por humanos e os usuários de IA e X votariam, o que era mais útil e deve aparecer na plataforma.
A IA elaboraria ‘um resumo neutro do poço -subdividido’, de acordo com o artigo de pesquisa. Confie nas notas da comunidade “Não surge de quem elabora as notas, mas das pessoas que eles avaliam”, disse isso.
Mas Andy Dudfield, o chefe da IA da organização de verificação de fatos do Reino Unido, disse: “Esses planos correm o arremesso já importante de aumentar os revisores humanos para verificar ainda mais notas migratórias, para abrir a porta para uma situação preocupante e plausível na qual as notas poderiam ser elaboradas, revisadas e totalmente publicadas por IA -combilados”.
Samuel Stockwell, funcionário de pesquisa do Center for Emerging Technology and Security no Alan Turing Institute, disse: “A IA pode ajudar os verificadores a processar as enormes quantidades de reivindicações que fluem diariamente pelas mídias sociais, mas muito dependerá da qualidade das proteções X de lugar contra seus resultados.
Os pesquisadores descobriram que os seres humanos escritos por humanos considerados pelos seres humanos consideram os tons consideravelmente mais confiáveis do que as bandeiras simples de informações erradas.
Uma análise de várias centenas de itens enganosos em X na execução -as eleições presidenciais do ano passado mostrou que as notas precisas da comunidade não foram mostradas em três quartos dos casos, indicando que eles não foram aumentados pelos usuários. Esses cargos enganosos, incluindo as alegações de que os democratas importaram eleitores ilegais e as eleições presidenciais de 2020 foram roubadas, coletaram mais de 2 bilhões de visualizações, de acordo com o Centro de Combate o ódio digital.
