À medida que os modelos chineses de IA aberta crescem em capacidade e popularidade, os argumentos sobre o que deveria ser feito em relação a eles atingiram mais uma vez um nível febril.
Fala-se que a administração Trump poderá tentar proibi-los (embora ainda não tenha agido de acordo com a ideia). Enquanto isso, os criadores de modelos proprietários, especialmente OpenAI e Anthropic, parecem cada vez mais preocupados com eles.
Modelos de peso aberto, como Kimi K3 da Moonshot AI ou Qwen do Alibaba, oferecem inferência por uma fração do custo simbólico dos modelos de código fechado desses grandes laboratórios dos EUA. O medo é que eles também representem algum tipo de ameaça. Certamente, ameaçam as margens de lucro dos grandes laboratórios proprietários de IA.
Mas será que as empresas que executam estes modelos nos seus próprios centros de dados devem sucumbir ao receio de que possam ser um vector para os hackers chineses?
Não, diz Lucas Atkins, CTO da Arcee, que está a construir modelos abertos para dar às empresas norte-americanas uma alternativa local aos modelos chineses.
Se alguma startup se beneficiasse da proibição dos modelos chineses, seria a Arcee. Mas Atkins diz que os modelos abertos da China não são mais perigosos do que qualquer outro software de código aberto que uma empresa possa utilizar. Na verdade, diz ele, eles oferecem benefícios até para sua própria empresa.
“Muitas pessoas consideram isso semelhante a um programa de software chinês. Tipo, ele foi codificado com essas intenções x, y, z” que um malfeitor poderia simplesmente comandar, disse ele.
“Fundamentalmente não é assim que esses modelos são treinados. Não há realmente nenhuma maneira de um Arcee, ou um Alibaba, fazer um modelo, ter alguém para executá-lo em seu próprio ambiente e para nós termos qualquer acesso a ele”, explicou ele.
A maioria desses modelos são conhecidos como “peso aberto” e não são software totalmente de código aberto, o código-fonte (a parte que realmente será executada em servidores), se for baixado de sites de código aberto como o Hugging Face, é amplamente visível e revisável. (O que não está disponível são os métodos e dados usados para treinar os modelos.)
As grandes organizações devem submeter qualquer núcleo de modelo aos seus processos de teste e inspeção de segurança e, muitas vezes, também treinarão os modelos para seus usos específicos e poderão examinar áreas como preconceito, toxicidade, alucinações e sensibilidade a determinados tópicos. Assim, eles trabalham, otimizam e entendem os modelos antes que as pessoas comecem a enviar-lhes avisos.
Um modelo usado para codificação poderia, de alguma forma, lançar backdoors maliciosos no código que escreve? Novamente, embora isso seja teoricamente possível, seriam necessários feitos acrobáticos para serem realizados.
“Não há razão para que um ator sofisticado o suficiente não possa treinar um modelo para ser um modelo de codificação completamente incrível em todas as circunstâncias, mas quando apresentado a um certo tipo de base de código… algum treinamento oculto entraria em ação”, postulou Atkins, que passa seus dias treinando modelos. Mas ele acrescenta: “Não sei como você faria isso”.
Como os grandes modelos de linguagem são criativos por natureza, as chances de um modelo contemporâneo cuspir malware em resposta a uma tempestade perfeita pré-planejada de contexto e prompt são mínimas. Ainda menores são as chances de qualquer empresa usar esse código.
Isso poderia acontecer no futuro? Isso é uma incógnita. Mas as empresas também estão construindo seus aplicativos de IA para serem independentes de modelos e usarem vários modelos. Portanto, mesmo que os modelos chineses sejam os melhores pelo preço atual, as empresas não ficarão presas a usá-los para sempre.
“Acho que em vez de a conversa ser sobre como proibir os modelos chineses, deveria ser sobre como promover um ecossistema bom e aberto aqui nos EUA”, diz Atkins.
Arcee também ganha vantagens com os modelos chineses. Por serem abertos, a startup “se beneficia do fato de esses modelos serem bons porque podemos aprender o que eles fizeram. Podemos construir com base neles. Então eles podem aprender o que fazemos”, diz ele. “Temos um enorme respeito pelas pessoas que constroem esses modelos, os pesquisadores individuais.”
Em última análise, a forma de competir com os modelos chineses “é lançar um modelo que seja melhor”, diz Atkins. “Precisamos dar a eles algo para conversar.”
Quando você compra por meio de links em nossos artigos, podemos ganhar uma pequena comissão. Isso não afeta nossa independência editorial.