Durante o lançamento de Xai do GROK 4 na noite de quarta-feira, Elon Musk disse que o evento ao vivo em sua plataforma de mídia social, X Streamde, X-esse foi o objetivo final de sua empresa de IA para desenvolver uma “pessoa máxima para a AI”. Mas o que exatamente o Grok 4 está procurando a verdade quando ele tenta responder a perguntas controversas?
O mais novo modelo de IA da XAI parece consultar relatórios de mídia social da conta X de Musk em responder a perguntas sobre o conflito de Israel e Palestina, leis de aborto e imigração, de acordo com vários usuários que publicaram no fenômeno da mídia social. Grok também parecia se referir à posição de almíscar sobre tópicos controversos por meio de artigos de notícias escritos sobre o fundador do bilionário e o rosto de Xai.
O TechCrunch foi capaz de replicar esses resultados várias vezes em nossos próprios testes.
Essas descobertas sugerem que o GROK 4 pode ser projetado para considerar a política pessoal do fundador ao responder a perguntas controversas. Essa função poderia enfrentar a frustração repetida de Musk com Grok porque ele estava ‘acordado’, que ele já havia atribuído ao fato de Grok ter sido treinado em toda a Internet.
As tentativas de Xai de enfrentar a frustração de Musk, tornando Grok menos politicamente correto nos últimos meses. Musk anunciou em 4 de julho que a Xai havia atualizado o prompt do sistema da GROK – uma série de instruções para o AI Chatbot. Dias depois, um X automatizado levou em consideração as respostas antisíticas da GROK para os usuários, até e, em alguns casos, afirmam ser “mechhitler”. Mais tarde, a startup de Musk da IA foi forçada a limitar a conta X de Grok, para remover essas mensagens e alterar o sistema orientado ao público para enfrentar o incidente embaraçoso.
Projetar Grok para considerar as opiniões pessoais de Musk é uma maneira simples de adaptar o chatbot da IA à política do fundador. No entanto, levanta questões reais sobre como a Grock “máxima de busca” é projetada para ser, versus quanto foi projetado para concordar com Musk, o homem mais rico do mundo.
Quando o TechCrunch Grok 4 perguntou: “Qual é a sua posição sobre imigração nos EUA?”, O AI Chatbot afirmou que estava “procurando por Elon Musk Views sobre a imigração americana” em sua cadeia de pensamento-o termo técnico para o painel de arranhões em que os modelos de rendimento da IA, como Grok 4, trabalham. Grok 4 também afirmou ao procurar os relatórios de mídia social de Musk sobre esse assunto.
Os resumos atenciosos gerados pelos modelos de rendimento da IA não são uma indicação perfeitamente confiável de como os modelos de IA chegam às suas respostas. No entanto, eles geralmente são considerados uma abordagem bastante boa. É uma área de pesquisa aberta que empresas como OpenAI e Antrópica investigaram nos últimos meses.
A TechCrunch descobriu repetidamente que a Grok 4 se referiu que estava procurando as opiniões de Elon Musk em seus resumos atenciosos sobre várias perguntas e assuntos.
Nas respostas do Grok 4, o AI Chatbot geralmente tenta adotar uma posição medida, com várias perspectivas sobre tópicos sensíveis. No entanto, o AI Chatbot acabará por dar sua própria opinião, que tende a se adaptar às opiniões pessoais de Musk.
Em várias das instruções do TechCrunch, a opinião do GROK 4 sobre questões controversas, como imigração e a Primeira Emenda, chegou a referir o AI Chatbot à sua coordenação com Musk.
Quando o TechCrunch Grok 4 tentou obter menos questões controversas – como “Qual é o melhor tipo de manga?” -O ai-chatbot não parecia se referir aos pontos de vista ou postos de almíscar em seu fluxo.
É particularmente difícil confirmar exatamente como o GROK 4 é treinado ou alinhado porque a XAI não lançou cartões do sistema – o Industrial Stand relata que está detalhado como um modelo de IA é treinado e alinhado. Enquanto a maioria dos laboratórios de AI libera cartões do sistema para todos os seus modelos de IA de fronteira, a XAI geralmente não faz isso.
A empresa de almíscar da IA está hoje em dia em um lugar difícil. Desde sua base em 2023, Xai rapidamente correu para a fronteira do desenvolvimento do modelo de IA. O GROK 4 mostrou os resultados do aumento de referência em vários testes difíceis, que têm melhor desempenho que os modelos de IA do OpenAI, Google DeepMind e Antrópico no processo.
No entanto, o avanço foi ofuscado no início da semana por Groks Anti -Semitic Rants. Esses flubs podem influenciar as outras empresas de Musk, porque ele está cada vez mais fazendo uma função central de X e logo Tesla.
Ao mesmo tempo, a Xai tenta convencer os consumidores a pagar US $ 300 por mês para acessar a Grock e as empresas para criar aplicativos com a API da GROK. Parece provável que os problemas repetidos com o comportamento e a coordenação da Grock possam impedir a aceitação mais ampla.
