Na quarta-feira, a empresa de proteção de IA desigual revelou US $ 80 milhões em financiamento totalmente novo em uma rodada liderada pela Sequoia Resources e Redpoint Ventures, com o envolvimento do diretor executivo da WIZ, ASSAF Rappaport. Um recurso próximo à oferta declarou que o valor arredondado é desigual em US $ 450 milhões.
“Nossa visão é tão rapidamente que uma grande tarefa financeira é mais provável de se originar da comunicação humana-na-AI e da comunicação AI-IA-AI”, o fundador Dan Lahav informou o TechCrunch, “o que provavelmente prejudicará a pilha de proteção ao longo de vários fatores”.
Anteriormente chamado de laboratórios de padrões, o desigual é atualmente um jogador considerável nas análises de IA. O trabalho da empresa é mencionado nas análises de proteção para o Claude 3,7 sonetos, além dos designs O3 e O4-mini da Openai. Muito mais geralmente, a estrutura da empresa para acumular a capacidade de detecção de vulnerabilidade de uma versão (denominada resolução) é comumente usada no setor.
Embora o desigual tenha realmente feito um acordo substancial com as ameaças existentes dos projetos, a empresa está arrecadando fundos com um olho na direção de algo muito mais entusiasmado: detectar ameaças e ações crescentes antes de emergirem na natureza. Na verdade, a empresa construiu um sistema sofisticado de atmosferas substitutas, permitindo que a triagem extensa de uma versão antes dela seja lançada.
“Temos simulações de rede intrincadas em que temos IA jogando agressor e protetor”, afirma o fundador do OMER NEVO. “Então, quando um design novinho em folha aparece, podemos ver onde as defesas se levantam e onde elas não o fazem”.
Na verdade, a segurança passou a ser um fator de extrema ênfase para o setor de IA, como as possíveis ameaças apresentadas pelos projetos de fronteira, pois ainda mais ameaças surgiram. O OpenAI renovou seus procedimentos de proteção interna neste verão, com um olho na direção de um possível reconhecimento de negócios.
Ao mesmo tempo, os projetos de IA são significativamente experimentados na descoberta de suscetibilidades de aplicativos de software- um poder com grandes efeitos para os atacantes e os protetores.
Evento do TechCrunch
São Francisco
|
27-29 de outubro de 2025
Para os proprietários irregulares, é a inicial de muitas frustrações de proteção desencadeadas pelas habilidades em expansão dos grandes designs de idiomas.
“Se o objetivo do laboratório de fronteira é desenvolver significativamente muito mais projetos avançados e qualificados, nosso objetivo é proteger esses projetos”, afirma Lahav. “No entanto, é um alvo realocado, então, naturalmente, há muito, muito mais trabalho a fazer no futuro”.
.
Fuente
