As ambições da África do Sul de se tornar um líder continental em inteligência artificial depararam-se com um obstáculo profundamente estranho: o projecto de política nacional de IA do país teve de ser retirado depois de se ter descoberto que continha citações fictícias, aparentemente geradas por IA.
A Reuters informou que o documento estava em fase de finalização no parlamento quando referências fabricadas foram descobertas em sua lista de fontes. Solly Malatsi, Ministro das Comunicações e Tecnologias Digitais da África do Sul, anunciou a retirada numa declaração enviada a X em 26 de abril, chamando o lapso de um compromisso direto da integridade da política.
Este Tweet não está disponível no momento. Pode estar carregando ou foi removido.
“Esta falha não é uma mera questão técnica, mas comprometeu a integridade e a credibilidade do projecto de política”, escreveu Malatsi. “A explicação mais plausível é que as citações geradas pela IA foram incluídas sem a devida verificação. Isto não deveria ter acontecido. Na verdade, este lapso inaceitável prova por que a supervisão humana vigilante sobre o uso da inteligência artificial é crítica.”
Velocidade da luz mashável
As alucinações de IA continuam sendo um problema persistente e intratável com modelos de linguagem, como o Mashable relatou repetidamente.
As citações falsas têm sido um problema específico em documentos jurídicos, e um número crescente de advogados norte-americanos tem sido detidos e repreendidos por apresentarem resumos jurídicos gerados por IA repletos de alucinações. Uma base de dados online sobre alucinações legais mantida pelo advogado e cientista de dados Damien Charlotin encontrou mais de 900 casos deste tipo apenas nos Estados Unidos (e quatro na África do Sul, sem incluir o último desastre).
A política de retirada delineou a criação de uma comissão nacional de IA, de um conselho de ética e de um órgão regulador, juntamente com incentivos fiscais, subvenções e subsídios para estimular o investimento do sector privado. O objectivo declarado da África do Sul, segundo a Reuters, era posicionar-se como o principal centro de África para a inovação em IA.
A declaração de Malatsi não indicou um cronograma para a produção de um rascunho revisado.
Tópicos
Inteligência artificial
