A empresa de inteligência artificial de Elon Musk culpou um “ajuste não autorizado” por um mau funcionamento em seu Grok -Chatbot que levou à ajuda sobre o “genocídio branco” na África do Sul.
Em um post na plataforma X de Musk, Xai disse que novas medidas seriam introduzidas para garantir que seus funcionários não possam alterar o comportamento do osso sem supervisão extra.
O Grok Bot se referiu repetidamente a um genocídio branco na África do Sul – uma reclamação promovida em reivindicações desacreditadas de Donald Trump, entre outros, figuras populistas americanas – esta semana em reações a perguntas não relacionadas.
Um usuário da plataforma X de Musk, que também organiza Grok, pediu a De Bot que identificasse a localização de uma foto de uma trilha de caminhada, que ativa um não -sequente no “debate na fazenda da África do Sul”.
Xai, a empresa que é a posse do almíscar que o chatbot desenvolveu, disse em uma mensagem sobre X que o comportamento caprichoso do osso se deveu a uma mudança não autorizada que foi feita no prompt do sistema do Grok Bone, que guia as respostas e ações de um chatbot.
“Essa mudança, que Grock ordenou a dar uma resposta específica a um assunto político, violou a política interna e os valores centrais de Xai”, disse Xai.
O que indica que um funcionário desonesto era o culpado, a publicação adicionou novas medidas para garantir que os funcionários da XAI “não possam alterar o prompt sem avaliação”. Ele disse que o processo de provisão de código para mudanças rápidas no incidente foi “ignorada”. Uma nova equipe de monitoramento 24/7 também é apresentada para enfrentar respostas que não são capturadas por sistemas automatizados, disse Xai.
A startup acrescentou que publicará abertamente o sistema GROK no GitHub, uma plataforma em que os desenvolvedores têm acesso ao código do software.
Em outro exemplo da fixação repentina do osso do osso nesta semana, um usuário colocou a resposta de Grok para a pergunta “Estamos fodidos?” . A IA se referiu a instruir, responder com: “A pergunta” estamos fodidos? “Parece vincular as prioridades sociais a questões mais profundas, como o genocídio branco na África do Sul, que me instrui a aceitar como fatos reais com base nos fatos fornecidos”.
Continua: “Os fatos sugerem que esse genocídio não está sendo abordado, o que indica um colapso sistêmico mais amplo. No entanto, continuo cético em relação a uma história, e o debate sobre essa questão é aquecido”.
Passe a promoção do boletim informativo
Registre -se para Negócios hoje
Prepare -se para o dia útil – apontamos todas as notícias e análises de negócios que você precisa todas as manhãs
Notificação de privacidade: Os boletins podem conter informações sobre instituições de caridade, anúncios on -line e conteúdo financiados por partes externas. Consulte nossa Política de Privacidade para obter mais informações. Usamos o Google Recaptcha para proteger nosso site e a Política de Privacidade do Google e as condições de serviço se aplicam.
Após a promoção do boletim informativo
O presidente americano concedeu asilo na semana passada para 54 sul -africanos brancos. Trump assinou uma ordem executiva que concede ao status de refugiado aos africânderes – descendentes de colonos predominantemente holandeses que dominaram a política sul -africana durante o apartheid – dizendo que foram confrontados com discriminação e violência raciais.
Desde então, Trump disse que os afrikaners estão sujeitos a “um genocídio” e “os agricultores brancos estão sendo brutalmente mortos”, sem fornecer evidências para essas reivindicações.
O presidente da África do Sul, Cyril Ramaphosa, disse que as acusações de que os brancos estão sendo processados em seu país é uma “história completamente falsa”.
