Início Tecnologia ‘Nossas suposições foram quebradas’: como dados fraudulentos da igreja revelaram a ameaça...

‘Nossas suposições foram quebradas’: como dados fraudulentos da igreja revelaram a ameaça da IA ​​às pesquisas

27
0
‘Nossas suposições foram quebradas’: como dados fraudulentos da igreja revelaram a ameaça da IA ​​às pesquisas

Se você estivesse acompanhando as notícias sobre a frequência à igreja na Grã-Bretanha ultimamente, seria perdoado por pensar que o país estava no meio de um reavivamento cristão.

Histórias de congregações inchadas, cheias de jovens que regressavam ao rebanho, estimuladas por tudo, desde as redes sociais até ao aumento nas vendas de Bíblias, pareciam ser confirmadas por um relatório de 2024 da Sociedade Bíblica.

Com base nos dados recolhidos por um inquérito YouGov, afirmou-se que a frequência à igreja estava a aumentar em Inglaterra e no País de Gales. As descobertas geraram manchetes e a narrativa foi estabelecida.

Houve apenas um problema – o inquérito revelou-se baseado em dados “fraudulentos” e foi retirado. E académicos e especialistas alertam que este episódio deve servir de parábola, não sobre um renascimento da religião, mas sobre os falsos profetas da inteligência artificial.

aspas duplasO agente de IA pode descobrir o que um pesquisador está tentando testar e produzir dados que confirmem a hipóteseSean Westwood

Os pesquisadores disseram que as pesquisas on-line estão ficando cada vez mais infestadas de dados falsos, à medida que os entrevistados, que muitas vezes são pagos por sua participação, usam a IA para preencher questionários rapidamente.

Estes inquéritos específicos são formas de investigação auto-selecionadas que podem moldar o discurso nacional. Mas uma falha grave, dizem os especialistas, é que eles são susceptíveis aos “agricultores inquiridos”, e esta vulnerabilidade significa que os resultados devem ser tratados com cautela quando se tenta compreender as tendências sociais.

David Voas, cientista social quantitativo e professor emérito da University College London, afirmou: “Este tipo de informação, a desinformação, é muito difícil de corrigir quando começa a espalhar-se. E a quantidade de esforço necessária para a corrigir é uma ordem de grandeza superior ao esforço necessário para a divulgar em primeiro lugar.

“Estamos a constatar que a nossa confiança neste tipo de sondagens está minada e é muito difícil recuar”, acrescentou.

Voas disse que o problema era geral, não apenas isolado do YouGov.

“É um problema crescente porque se você (como participante) puder trabalhar em grande escala, poderá realmente gerar uma quantidade razoável de receita, mesmo em termos ocidentais, sem falar em termos do sul global”, disse ele.

De acordo com um relatório de 2026, o YouGov usa um método de amostragem aleatória, o que significa que os participantes não podem escolher qual pesquisa desejam responder. Um porta-voz do YouGov disse ao Guardian: “Nós selecionamos quais pesquisas enviar, então não há como nos associarmos para influenciar o resultado de uma pesquisa”.

Um modelo de pesquisa quebrado

O crescimento da IA ​​exacerbou o problema. Sean Westwood, professor associado do departamento de governo do Dartmouth College, em New Hampshire, disse: “A suposição da pesquisa de opinião – de que alguém dá respostas coerentes e lógicas, é uma pessoa real – essa suposição agora está quebrada”.

Não há evidências que sugiram que o uso de IA foi a fonte da fraude nos números de frequência à igreja registrados pelo YouGov em 2024. No entanto, Westwood disse que a IA tinha o potencial de influenciar pesquisas on-line. “As ferramentas para fazer tudo isso são baratas, acessíveis e estão disponíveis agora.”

Ele disse que os modelos de IA representam uma ameaça existencial à nossa compreensão da sociedade. “O agente pode ser transformado em arma. Uma única frase de instrução é suficiente para distorcer sistematicamente as suas respostas em sondagens políticas ou questões geopolíticas, ao mesmo tempo que mantém intacto o seu perfil demográfico para que a manipulação seja invisível à triagem padrão”, disse ele.

“Mesmo sem instruções explícitas para trapacear, o agente pode descobrir o que um pesquisador está tentando testar e produzir dados que confirmem a hipótese”, disse ele.

aspas duplasOs entrevistados falsos tendem a responder afirmativamente, não importa o que seja perguntadoCourtney Kennedy

No entanto, a taxa a que a IA está a ser utilizada para concluir estes inquéritos é difícil de detetar. “Não sabemos o alcance exato e isso é parte do problema”, disse Westwood.

E, acrescentou, a rápida transformação da tecnologia de IA torna difícil combater a sua influência potencial. “Um pesquisador pode projetar uma nova armadilha inteligente que capture os modelos atuais, mas o desenvolvimento do modelo é tão rápido que a solução provavelmente será obtida dentro de meses.”

A influência dos jovens

O relatório da Sociedade Bíblica afirmava que a frequência à igreja estava a aumentar à taxa mais elevada entre os jovens em Inglaterra e no País de Gales. Courtney Kennedy, vice-presidente de métodos e inovação do Pew Research Center, disse que as estimativas de adesão para pessoas com menos de 30 anos tendem a conter altos níveis de erro e são mais propensas a resultar de “click farms”.

“Em geral, as pessoas altamente qualificadas que usam a Internet e escondem a sua identidade parecem mais jovens”, disse Kennedy. “Os casos falsos pretendem qualificar-se para o maior número possível de inquéritos. É bem sabido na indústria que os jovens adultos são difíceis de alcançar para os inquéritos. Portanto, deste ponto de vista, é vantajoso apresentar-se como jovem, porque os inquéritos tendem a precisar de tais entrevistados.”

Kennedy acrescentou: “Os entrevistados falsos tendem a responder afirmativamente, não importa o que seja perguntado. Isto é chamado de viés de positividade, que inflaciona a estimativa”.

Voas disse que o problema com o relatório da Sociedade Bíblica não foram apenas os entrevistados fraudulentos, mas a falha em comparar criticamente as conclusões da pesquisa YouGov com outras pesquisas disponíveis feitas pelas próprias igrejas.

“Se você estivesse fazendo uma pesquisa acadêmica séria, precisaria revisar a literatura e ver que outras evidências existiam”, disse Voas.

Um porta-voz do YouGov disse: “O aumento de fazendas de pesquisa organizadas, bots e agora respostas assistidas por IA tornam a detecção uma disciplina vital, contínua e em constante evolução. O YouGov usa verificações de identidade, impressão digital de dispositivos, geolocalização de múltiplas fontes, pontuação de ameaças em tempo real e supervisão de pagamentos para que os malfeitores não escapem pela rede.

“Quando alguém adere ao painel YouGov, associamos as informações fornecidas a todos os dados que podemos observar sobre o seu dispositivo, localização e comportamento. A partir daí decidimos quem convidar, quem verificar e, se necessário, quem remover.”

Fuente