Os bancos britânicos terão acesso na próxima semana a uma poderosa ferramenta de IA que foi considerada demasiado perigosa para ser divulgada ao público, tal como uma série de figuras importantes do setor financeiro alertaram sobre o seu impacto.
A Anthropic, que até agora limitou o lançamento do novo modelo a um pequeno grupo de empresas principalmente dos EUA, incluindo Amazon, Apple e Microsoft, disse que iria expandir isso para instituições financeiras do Reino Unido nos próximos dias.
“Isso será no curto prazo, na próxima semana”, disse Pip White, chefe das operações da Anthropic no Reino Unido, Irlanda e norte da Europa, em entrevista à Bloomberg TV. “Como seria de esperar, o envolvimento que tive dos CEOs do Reino Unido na última semana foi significativo.”
A Anthropic, empresa por trás da família Claude de ferramentas de IA, disse que seu modelo mais recente, Mythos, representa um risco sem precedentes devido à sua capacidade de expor falhas em sistemas de TI.
“Os modelos de IA atingiram um nível de capacidade de codificação onde podem superar todos, exceto os humanos mais qualificados, na descoberta e exploração de vulnerabilidades de software”, disse a Anthropic em um blog no início deste mês. “As consequências – para as economias, a segurança pública e a segurança nacional – podem ser graves.”
Os ministros das finanças, executivos e reguladores discutiram as potenciais ameaças quando se reuniram em Washington esta semana para as reuniões de primavera do FMI e do Banco Mundial, ao mesmo tempo que lidaram com preocupações sobre as ramificações globais que se espalham pela guerra EUA-Israel com o Irão.
O ministro das finanças canadiano, François-Philippe Champagne, disse à BBC: “Certamente é suficientemente grave para merecer a atenção de todos os ministros das finanças… A diferença com o estreito de Ormuz é que sabemos onde ele está e quão grande é.
“O problema que enfrentamos com a Anthropic é que ela é uma incógnita. Requer muita atenção para que tenhamos salvaguardas e tenhamos processos em vigor para garantir a resiliência do nosso sistema financeiro.”
Andrew Bailey, governador do Banco de Inglaterra que também preside o Conselho de Estabilidade Financeira dos reguladores globais, disse: “É um desafio muito sério para todos nós. Lembra-nos a rapidez com que o mundo da IA se move”.
No entanto, ele disse que os reguladores estavam a ter de considerar se, e com que dificuldade, reprimiriam a tecnologia, à medida que os governos procuravam colher os frutos económicos da IA. “Qual é o momento ideal para definir as regras de trânsito?” Bailey perguntou. “Se você for cedo demais, a) corre o risco de errar o alvo eb) corre o risco de distorcer a evolução, e se for tarde demais, as coisas podem ficar fora de controle.”
A presidente do Banco Central Europeu, Christine Lagarde, disse: “O desenvolvimento que vimos com a Antthropic e a Mythos é um bom exemplo de uma empresa responsável que de repente pensa: ‘Ah, isso pode ser muito bom’ – mas se cair nas mãos erradas, pode ser muito mau.
“Todos desejam ter uma estrutura dentro da qual possam operar”, disse Lagarde à Bloomberg TV. Mas ela acrescentou: “Não creio que exista uma estrutura de governança que possa realmente cuidar dessas coisas. Precisamos trabalhar nisso”.
