Um grupo anônimo de usuários do Discord diz que invadiu o acesso ao Claude Mythos Preview, o novo modelo de IA que a Antrópico afirma ser poderoso demais para ser lançado ao público.
A Anthropic diz que Claude Mythos “é capaz de identificar e explorar vulnerabilidades de dia zero em todos os principais sistemas operacionais e navegadores da web” e concedeu acesso ao modelo a um grupo seleto de parceiros por meio de uma iniciativa chamada Projeto Glasswing.
A empresa de IA disse que essa abordagem somente para convidados permitiria aos líderes de tecnologia “proteger o software mais crítico do mundo”. Mas talvez seja necessário prestar mais atenção à segurança de seu próprio software.
Como relata a Bloomberg, os usuários do Discord não obtiveram acesso por meio de um hack sofisticado, mas adivinhando a localização online do modelo com base em convenções de nomenclatura anteriores da Antrópica – como encontrado na recente violação de dados na Mercor, uma startup de IA, no início deste mês.
VEJA TAMBÉM:
Claude Mythos, da Anthropic, é um grande golpe ou uma ameaça real à segurança? O que dizem os especialistas.
Depois de identificar onde acessar Claude Mythos, o grupo teve que empregar táticas adicionais. Um membro do grupo já tinha acesso privilegiado como trabalhador de uma empresa terceirizada da Anthropic, relata a Bloomberg.
Velocidade da luz mashável
O grupo fazia parte de um canal privado do Discord que se concentra em caçar informações sobre modelos inéditos.
Um membro do grupo disse à Bloomberg que eles não estavam usando Claude Mythos para fins nefastos, mas para tarefas como construir sites simples. No entanto, eles também afirmaram ter acesso a ainda mais modelos antrópicos inéditos.
O grupo forneceu evidências suficientes para convencer Bloomberg de que realmente havia violado a segurança da Antrópica. A Anthropic confirmou em comunicado à Bloomberg que estava ciente da reclamação e investigando.
Neste momento, não há indicação de que Claude Mythos tenha sido violado por outras partes não autorizadas. Ainda assim, dado que a Anthropic descreveu Claude Mythos como uma ameaça à segurança que muda o paradigma e que poderia “remodelar a segurança cibernética” tal como a conhecemos, qualquer acesso não autorizado é – para dizer o mínimo – preocupante.
Quer saber mais sobre como tirar o melhor proveito da sua tecnologia? Inscreva-se nos boletins informativos de notícias e ofertas principais do Mashable hoje.
Tópicos
Inteligência Artificial Antrópica
