LiteLLM, fabricante do popular gateway de IA usado por milhões de desenvolvedores, anunciou publicamente que está abandonando a startup de conformidade Delve e refazer suas certificações de segurança com outra empresa e auditor. O anúncio ocorre depois que a versão de código aberto do LiteLLM foi vítima de um terrível malware de roubo de credenciais na semana passada.
Antes do incidente, a LiteLLM obteve duas certificações de conformidade de segurança ao contratar a startup de conformidade de IA Delve. Essas certificações têm como objetivo verificar se uma empresa possui procedimentos em vigor para minimizar possíveis incidentes.
A Delve foi acusada de enganar seus clientes sobre sua verdadeira conformidade, supostamente gerando dados falsos e usando auditores que carimbavam seus relatórios. O fundador da Delve negou os negados e ofereceu novos testes e auditorias gratuitas a todos os seus clientes. Essa negação encorajou o denunciante anônimo da Delve a dobrar sua aposta, incluindo a divulgação de supostos recibos no fim de semana.
Na segunda-feira, o CTO da LiteLLM, Ishaan Jaffer, postou no X que sua empresa usará o concorrente da Delve, Vanta, para recertificar e encontrará seu próprio auditor independente para verificar seus controles de conformidade. Depois de uma semana tão difícil, o LiteLLM está votando com os pés.
