Os modelos de inteligência artificial já estão “trapaceando, enganando e seguindo seu próprio caminho”, alertou o ministro assistente de tecnologia da Austrália, Andrew Charlton, enquanto o AI Safety Institute do governo federal começa a testar os modelos mais recentes.
Em um discurso em um fórum de segurança de IA em Sydney na terça-feira, Charlton disse que a segurança para IA é importante agora, pois “os sistemas de IA já estão fazendo coisas que seus criadores nunca pretenderam”.
“Trapacear, enganar, seguir seu próprio caminho. O momento de se antecipar a esse comportamento é enquanto ele ainda está confinado ao laboratório de testes, e não depois de chegar ao mundo real”, disse ele.
Charlton disse que a licença social da IA é precária e que a confiança do público na IA é baixa num momento em que a IA está a tornar-se uma tecnologia de uso geral em todos os escritórios, salas de aula e empresas. Ele disse que regulamentar a segurança para IA pode funcionar como um facilitador, não um freio.
A abordagem da Austrália à segurança da IA consiste em olhar tanto para o que está disponível agora – em jogos, aplicações, chatbots e escribas médicos – como para os modelos mais recentes que podem ser um risco futuro, destacou Charlton.
O ministro assistente referiu-se à admissão da Anthropic no ano passado de que, numa simulação, um agente de IA que geria o e-mail de uma empresa fictícia descobriu que um executivo planeava encerrar o agente, e o mesmo executivo estava a ter um caso, e em 96% dos julgamentos optou por chantagear o executivo para abortar a sua própria morte.
Inscreva-se para receber o e-mail da Breaking News Australia
Ele disse que os comportamentos estão sendo descobertos em testes por pessoas cujo trabalho é encontrá-los, destacando a necessidade de regulamentações de segurança para IA.
“A janela para avançar nesta tecnologia está aberta agora. Ela não permanecerá aberta para sempre”, disse ele.
Ele disse que o AI Safety Institute, liderado pela Dra. Kate Conroy, com o líder de pesquisa científica de segurança, Prof Paul Salmon, “começou a trabalhar” e já estava testando modelos de IA de ponta com parceiros técnicos.
A AISI também estava trabalhando com reguladores e agências para responder às capacidades, riscos, danos e tendências emergentes da IA, disse Charlton.
O governo federal resistiu aos apelos para uma lei abrangente sobre IA para regular a tecnologia, e Charlton disse que o governo se concentrou numa abordagem de todo o governo usando as leis existentes.
“A segurança da IA será prosseguida através de todas as agências e reguladores relevantes, através do direito do consumidor, bens terapêuticos, saúde e segurança no local de trabalho e segurança online, apoiada por leis que já existem e fortalecidas, onde for necessário, com novos poderes e uma aplicação mais rigorosa”, disse ele.
pular promoção de boletim informativo Boletim informativo gratuito | Quando necessário
Inscreva-se para Notícias de última hora da Austrália
Receba as notícias mais importantes assim que surgirem
após a promoção do boletim informativo
“Isso não significa menos regras. São regras mais rápidas, aplicadas por reguladores que já entendem seus setores.”
No domingo, o Guardian Australia relatou documentos internos do departamento de saúde revelando que, para uma tecnologia de IA – escribas de IA usados por profissionais médicos para documentar consultas de pacientes – vários reguladores diferentes, incluindo a Administração de Produtos Terapêuticos e o comissário de privacidade, estavam todos trabalhando juntos sobre como a tecnologia deveria ser regulamentada.
O primeiro trabalho realizado pela AISI é uma colaboração com o Gradient Institute para avaliar o risco de agentes de IA que podem realizar trabalhos em nome de humanos.
A AISI também está em parceria com a CSIRO num projeto para garantir que os sistemas de IA façam o que as pessoas pretendem que façam.
“Lidamos com o alinhamento como seres humanos desde tenra idade. Aprendemos regras, normas sociais e valores que nos ajudam a comportar-nos com segurança e responsabilidade: parar no sinal vermelho, olhar para os dois lados antes de atravessar a rua, considerar o impacto das nossas ações nos outros”, disse Charlton.
“À medida que os sistemas de IA se tornam mais capazes, precisamos de ter certeza de que eles se comportarão de maneira igualmente previsível e confiável.”