-
A Anthropic revelou Claude Fable 5 e Mythos 5, seus tão esperados modelos de IA da “classe Mythos”.
-
A empresa disse que os modelos incluem salvaguardas que limitam algumas tarefas de pesquisa de IA de ponta.
-
Os críticos disseram que as restrições confundem a linha entre as medidas de segurança da IA e a estratégia competitiva.
O último lançamento de IA da Anthropic está gerando controvérsia sobre o que seus novos modelos farão ou não.
Na terça-feira, a Anthropic revelou Claude Fable 5 e Mythos 5, seus tão aguardados modelos da “classe Mythos”.
Anúncio
Anúncio
Juntamente com o lançamento, a empresa divulgou duas salvaguardas incomuns: os modelos podem fornecer secretamente assistência degradada quando suspeitam que os usuários estão trabalhando em pesquisas de IA de ponta, e certas solicitações são automaticamente roteadas para modelos menos capazes.
Em um cartão de sistema, a Anthropic disse que as medidas são projetadas para reduzir o risco de que sistemas poderosos de IA ajudem os usuários a desenvolver modelos de fronteira concorrentes ou a acelerar capacidades perigosas.
Os críticos, no entanto, disseram que as salvaguardas da Anthropic poderiam prejudicar os investigadores, concentrar o poder entre os principais laboratórios de IA e degradar as respostas sem o conhecimento dos utilizadores.
Aqui está o que vozes inteligentes em IA, segurança cibernética e políticas estão dizendo sobre o último movimento da Anthropic:
Anúncio
Anúncio
David Kasten, chefe de política da Palisade Research
David Kasten disse acreditar que a Anthropic está genuinamente tentando reduzir os riscos associados ao Mythos.
“Eu acredito na palavra da Anthropic de que eles estão se esforçando para diminuir o risco do que consideram as duas características arriscadas do Mythos”, disse Kasten ao Business Insider.
Ainda assim, Kasten disse que lançar o modelo traz riscos porque “é sempre um jogo de gato e rato entre atacante e defensor”.
Kasten acrescentou que a Anthropic provavelmente se vê em uma corrida com laboratórios rivais de IA que em breve poderão ter modelos igualmente poderosos.
“Para eles, acho que há um pouco de quanto de sua liderança na corrida eles acham que podem queimar?” ele disse.
Anúncio
Anúncio
Davi Ottenheimer, vice-presidente de confiança e ética digital da Inrupt
Davi Ottenheimer, um proeminente especialista em segurança digital, questionou se o Mythos já foi tão perigoso quanto a Anthropic sugeria.
“O marketing antrópico disse em abril que Mythos era perigoso demais para estar em mãos públicas”, disse Ottenheimer ao Business Insider. “E ainda hoje eles estão vendendo-o, inalterado, ao público.”
Mythos foi impedido de ser divulgado ao público em abril, depois que a Anthropic alertou que o modelo era tão capaz de encontrar falhas de segurança cibernética que representava riscos de segurança.
“Eles estão usando a segurança como um truque de marketing”, acrescentou Ottenheimer.
Roman Stanek, fundador da GoodData
Anúncio
Anúncio
Roman Stanek disse que a capacidade da IA não é o verdadeiro problema da segurança cibernética.
“O que acontece com a IA e a segurança cibernética é que as vulnerabilidades que nos preocupam com a exploração da IA, bem, sabemos da maioria delas há 20 anos”, disse Stanek em nota enviada ao Business Insider. “Nós simplesmente nunca os consertamos.”
“Ninguém queria pagar um engenheiro humano para consertar isso”, acrescentou. “Eles também não vão pagar uma IA para consertar isso.”
Elie Bakouch, engenheiro de pesquisa da Prime Intellect
Elie Bakouch desaprova a decisão da Anthropic de limitar intencionalmente o desempenho da Mythos em certas tarefas de desenvolvimento de IA.
“Mythos será ruim DE PROPÓSITO nas tarefas de ‘pesquisa LLM de fronteira’ de IA”, escreveu Bakouch no X na terça-feira. “Isso é muito triste para a comunidade de pesquisa.”
Anúncio
Anúncio
Bakouch também chamou de “louco” que a intervenção não fosse visível para os usuários.
Jeremy Howard, cofundador da AnswerDotAI
Jeremy Howard disse que as salvaguardas da Anthropic poderiam aumentar a concentração na indústria de IA.
“A Antrópico escolheu o oposto do caminho seguro”, escreveu Howard em um post X na quarta-feira. “Eles estão se permitindo, o atual laboratório de ponta, usar seu modelo de ponta para pesquisas de ponta em IA.”
Howard disse que o resultado é que “a fronteira da IA avança e o desequilíbrio de poder aumenta”.
Patrick Moorhead, fundador e CEO da Moor Insights & Strategy
Patrick Moorhead.Conferência e festivais Errich Petersen/SXSW via Getty Images
Patrick Moorhead disse que sua primeira experiência com Fable 5 o deixou desapontado.
Anúncio
Anúncio
Em uma postagem no X na quarta-feira, Moorhead disse que a modelo se recusou a ajudar nos pontos de discussão da análise de lucros e na apresentação do conselho porque Fable 5 considerou as tarefas “muito perigosas”.
“É este o modelo do qual todos temos medo e que faz com que o Anthropic valha US$ 1 trilhão?” ele escreveu. “Okedokee.”
Gergely Orosz, autor do boletim informativo ‘The Pragmatic Engineer’
Gergely Orosz disse que as salvaguardas da Anthropic podem acabar afetando pessoas que não estão realmente construindo modelos de IA concorrentes.
“A Anthropic assume que a SemiAnalysis está desenvolvendo um LLM concorrente e, portanto, simplifica seu modelo para eles”, escreveu Orosz no X na quarta-feira.
“A tentativa antrópica de limitar a competição limita muitas outras”, acrescentou.
Anúncio
Anúncio
Deedy Das, sócio da Menlo Ventures
Deedy Das concentrou-se nas capacidades do modelo e não nas suas salvaguardas.
“Claude Fable 5 é de longe o modelo mais ridículo que me faz realmente temer pelo futuro da engenharia de software”, escreveu Das em um post X na quarta-feira.
Das apontou exemplos que incluem a migração de uma base de código de 50 milhões de linhas, a geração de gráficos 3D avançados e a superação de modelos rivais em tarefas de otimização.
Ele também disse que o Fable 5 tem quase o mesmo preço do GPT-5.5 da OpenAI e seis vezes mais barato que o GPT-5.5 Pro.
Se você gostou dessa história, siga o Business Insider no Yahoo.