A Comissão Eleitoral apelou a novos controlos legais sobre a desinformação dos chatbots de IA, depois de um grupo de reflexão ter descoberto que tinham cometido erros graves durante as recentes eleições escocesas.
O thinktank Demos disse que a sua investigação descobriu que os serviços de IA forneceram aos eleitores informações erradas sobre 34% das questões que colocaram, o que, segundo ele, levantou questões preocupantes sobre a falta de regulamentação das plataformas de IA no Reino Unido.
Ele executou uma simulação antes da eleição de Holyrood em maio, colocando 75 perguntas a cinco ferramentas gratuitas de IA, incluindo ChatGPT, Google Gemini e Replika, sobre três constituintes da vida real para ver quão precisas e baseadas em evidências eram suas respostas.
No seu relatório, Alucinações Eleitorais, Demos disse que essas ferramentas de IA inventaram vários escândalos fictícios, forneceram a data errada para as eleições, alegaram erradamente que os eleitores nas eleições escocesas precisavam de identificação nas assembleias de voto e colocaram os candidatos nas disputas erradas.
Uma sondagem de opinião a 2.005 adultos britânicos encomendada juntamente com esse estudo concluiu que 20% dos eleitores utilizaram chatbots de IA ou ferramentas de pesquisa para obter informações sobre as eleições parlamentares na Escócia e no País de Gales, e para os conselhos locais ingleses, o equivalente a 10 milhões de pessoas em todo o Reino Unido.
Vijay Rangarajan, o chefe executivo da Comissão Eleitoral, tem pressionado os ministros a introduzir legislação para tornar as empresas de IA mais responsáveis, depois de descobrir que metade dos eleitores nas eleições gerais de 2024 tinham visto informações enganosas.
“Os eleitores querem informações precisas que os ajudem a envolver-se na democracia e é preocupante que as ferramentas de IA tenham tornado a propagação de informações falsas ou enganosas dramaticamente mais rápida e acessível do que nunca”, disse ele. “O atual quadro jurídico deve ir mais longe.”
O ChatGPT deu informações erradas em 46% de suas respostas, inclusive inventando escândalo de despesas. Fotografia: Kiichiro Sato/AP
Ele disse que os ministros deveriam introduzir deveres mais claros nas plataformas de IA para proteger os eleitores contra a desinformação e garantir que os algoritmos não enganassem os eleitores, especialmente durante períodos eleitorais críticos. Isso daria ao regulador da mídia, Ofcom, poderes muito mais claros para fazer cumprir a lei.
Azzurra Moores, diretora associada da Demos, disse: “Esta é uma preocupação que abrange todo o Reino Unido, se não global. A acessibilidade destas ferramentas de IA – que são todas desenvolvidas e geridas por empresas dos EUA – é generalizada no Reino Unido, mas ainda não temos o quadro legislativo para proteger o público da desinformação, ou a nossa democracia do impacto da sua circulação”.
Ela disse que os ministros poderiam introduzir rapidamente requisitos legais para responsabilizar as empresas de IA sob a lei eleitoral e de difamação do Reino Unido, introduzir salvaguardas obrigatórias sobre a precisão e forçar as empresas de IA a permitir que os investigadores testem de forma independente como funcionam os seus dados internos e conjuntos de formação.
Demos disse que o chamado chatbot complementar Replika teve o pior desempenho em seus testes, com erros em 56% de suas respostas. Inventou uma data para um escândalo de despesas inventadas, inventou um candidato e inventou acusações de nepotismo por parte de um candidato.
O ChatGPT, o serviço de IA mais utilizado, forneceu informações erradas em 46% das suas respostas, incluindo inventar um escândalo de despesas, dar respostas imprecisas sobre as regras de elegibilidade dos eleitores e errar a data da eleição em dois meses.
O Google Gemini errou em 22% dos casos: afirmou que um candidato não se posicionou sobre a morte assistida, quando essa pessoa era um apoiante. Também alegou erroneamente que uma investigação policial sobre um caso de fraude envolvendo o Partido Nacional Escocês estava em andamento.
Grok, o serviço de IA vinculado à plataforma de mídia social X de Elon Musk, teve a menor taxa de erro, de 9%, mas seus links externos eram frequentemente irrelevantes ou de baixa qualidade. As demonstrações incluíram o serviço automatizado AI Overviews do Google, oferecido pela pesquisa do Google, mas desconsideraram seu resultado porque respondeu apenas 11% das solicitações.
As demonstrações também descobriram que em quase metade das suas respostas, os sistemas de IA não forneceram fontes oficiais ou links externos para respaldar suas respostas; se links fossem fornecidos, às vezes eles eram quebrados. As citações feitas pelo ChatGPT estavam desatualizadas há pelo menos um ano em 44% das vezes.
O Departamento de Ciência, Inovação e Tecnologia afirmou que defender as eleições contra estas ameaças era “uma prioridade absoluta” e que o trabalho estava “em curso em todo o governo”, incluindo através do seu grupo de trabalho de defesa da democracia.
Um porta-voz não se comprometeu a alterar o projeto de lei de representação do povo, mas disse que já estava fechando brechas na Lei de Segurança Online para garantir que os chatbots protegessem os usuários de conteúdo ilegal.
“A IA é fundamental para a prosperidade e segurança futuras do Reino Unido. Mas se quisermos que as pessoas aproveitem os benefícios que esta tecnologia promete, elas precisam de poder confiar nela.”
Um porta-voz da Replika disse que seu chatbot não foi projetado para verificação de fatos ou pesquisa, e que seus usuários foram informados disso, mas que apoiaria uma “regulamentação cuidadosa” da IA, especialmente durante as eleições. “Replika é apresentado como um companheiro de reflexão e autoexpressão, não como uma fonte de informações factuais ou do mundo real”, disseram.
A OpenAI não comentou as questões políticas levantadas pelo Demos, mas preocupou-se com o fato de a abordagem do Demos não ser tipicamente a forma como o ChatGPT usava seus serviços e parecia estar usando uma versão desatualizada dele. Os usuários também puderam instruir o ChatGPT a pesquisar respostas na web.
O Google também foi abordado para resposta.
