Mais de 100 parlamentares do Reino Unido apelam ao governo para que introduza regulamentos vinculativos sobre os sistemas de IA mais poderosos, à medida que cresce a preocupação de que os ministros estejam a agir demasiado lentamente para criar salvaguardas face ao lobby da indústria tecnológica.
Um antigo ministro da IA e secretário da Defesa fazem parte de um grupo multipartidário de deputados de Westminster, pares e membros eleitos das legislaturas escocesa, galesa e da Irlanda do Norte que exigem controlos mais rigorosos sobre os sistemas fronteiriços, citando receios de que a IA superinteligente “comprometa a segurança nacional e global”.
A pressão por uma regulamentação mais rígida está sendo coordenada por uma organização sem fins lucrativos chamada Control AI, cujos patrocinadores incluem o cofundador do Skype, Jaan Tallinn. Apela a Keir Starmer para que demonstre independência da Casa Branca de Donald Trump, que se opõe à regulamentação da IA. Um dos “padrinhos” da tecnologia, Yoshua Bengio, disse recentemente que ela era menos regulamentada que um sanduíche.
Os activistas incluem o colega trabalhista e antigo secretário da Defesa, Des Browne, que disse que a IA superinteligente “seria o desenvolvimento tecnológico mais perigoso desde que ganhámos a capacidade de travar uma guerra nuclear”. Ele disse que apenas a cooperação internacional “pode impedir uma corrida imprudente por vantagens que poderia colocar a todos nós em perigo”.
O colega conservador e ex-ministro do Meio Ambiente Zac Goldsmith disse que “mesmo enquanto figuras muito importantes e seniores da IA estão denunciando, os governos estão muito atrás das empresas de IA e estão deixando-as prosseguir o seu desenvolvimento praticamente sem regulamentação”.
A Grã-Bretanha organizou uma cimeira de segurança de IA em Bletchley Park em 2023, que concluiu que havia “potencial para danos graves, até mesmo catastróficos, deliberados ou não intencionais” dos sistemas de IA mais avançados. Criou o AI Safety Institute, agora denominado AI Security Institute, que se tornou um organismo respeitado internacionalmente. Menos ênfase, contudo, tem sido dada ao apelo da cimeira para enfrentar os riscos através da cooperação internacional.
Goldsmith disse que o Reino Unido deveria “retomar a sua liderança global na segurança da IA, defendendo um acordo internacional para proibir o desenvolvimento de superinteligência até sabermos com o que estamos lidando e como contê-la”.
Os apelos à intervenção estatal na corrida à IA surgem depois de um dos principais cientistas de IA de Silicon Valley ter dito ao Guardian que a humanidade teria de decidir até 2030 se assumiria o “risco final” de deixar os sistemas de IA treinarem-se para se tornarem mais poderosos. Jared Kaplan, cofundador e cientista-chefe da empresa de IA de fronteira Anthropic, disse: “Não queremos realmente que seja uma situação como a do Sputnik, onde o governo de repente acorda e pensa: Nossa, a IA é um grande negócio.”
O programa trabalhista estabelecido em julho de 2024 dizia que legislaria “para impor requisitos àqueles que trabalham para desenvolver os modelos de inteligência artificial mais poderosos”. Mas nenhum projecto de lei foi publicado e o governo tem enfrentado pressão da Casa Branca para não inibir o desenvolvimento comercial da IA, principalmente iniciado por empresas norte-americanas.
Um porta-voz do Departamento de Ciência, Inovação e Tecnologia disse: “A IA já está regulamentada no Reino Unido, com uma série de regras existentes já em vigor. Fomos claros sobre a necessidade de garantir que o Reino Unido e as suas leis estejam prontos para os desafios e oportunidades que a IA trará e essa posição não mudou”.
O bispo de Oxford, Steven Croft, que apoia a campanha Control AI, apelou à criação de um órgão de vigilância independente da IA para examinar minuciosamente a utilização do sector público e que as empresas de IA sejam obrigadas a cumprir padrões mínimos de testes antes de lançarem novos modelos.
“Existem todos os tipos de riscos e o governo não parece ter adoptado um princípio de precaução”, disse ele. “Neste momento existem riscos significativos: a saúde mental das crianças e dos adultos, os custos ambientais e outros grandes riscos em termos do alinhamento da IA generalizada e (da questão de) o que é bom para a humanidade. O governo parece estar a afastar-se da regulamentação.”
pular a promoção do boletim informativo
Um mergulho semanal em como a tecnologia está moldando nossas vidas
Aviso de privacidade: Os boletins informativos podem conter informações sobre instituições de caridade, anúncios online e conteúdo financiado por terceiros. Se você não tiver uma conta, criaremos uma conta de convidado para você em theguardian.com para enviar este boletim informativo. Você pode concluir o registro completo a qualquer momento. Para mais informações sobre como utilizamos os seus dados consulte a nossa Política de Privacidade. Usamos o Google reCaptcha para proteger nosso site e a Política de Privacidade e os Termos de Serviço do Google se aplicam.
após a promoção do boletim informativo
O primeiro ministro de IA do Reino Unido sob Rishi Sunak, Jonathan Berry, disse que estava chegando o momento em que regulamentações vinculativas deveriam ser aplicadas a modelos que apresentam riscos existenciais. Ele disse que as regras deveriam ser globais e criariam armadilhas para que, se os modelos de IA atingissem uma determinada potência, seus fabricantes tivessem que mostrar que foram testados, projetados com interruptores desligados e que eram capazes de serem retreinados.
“A segurança da IA nas fronteiras internacionais não avançou aos trancos e barrancos como esperávamos”, disse ele. Ele citou casos recentes de chatbots envolvidos no incentivo ao suicídio, pessoas que os usaram como terapeutas e acreditaram que eram deuses. “Os riscos, agora, são muito graves e precisamos estar constantemente em guarda”, disse ele.
O executivo-chefe da Control AI, Andrea Miotti, criticou a atual “abordagem tímida” e disse: “Tem havido muito lobby por parte do Reino Unido e dos EUA. As empresas de IA estão pressionando os governos no Reino Unido e nos EUA para paralisar a regulamentação, argumentando que é prematura e esmagaria a inovação. Algumas destas são as mesmas empresas que dizem que as IA poderiam destruir a humanidade”.
Ele disse que a velocidade com que a tecnologia de IA estava avançando significava que padrões obrigatórios poderiam ser necessários nos próximos um ou dois anos.
“É bastante urgente”, disse ele.
