Este ano, o Google I/O 2025 teve um foco: inteligência artificial.
Já tratamos as maiores notícias provenientes da conferência anual de desenvolvedores: uma nova ferramenta AI -VideoPeld chamada Flow. Um plano de assinatura da AI Ultra de US $ 250. Numerosas novas mudanças em Gêmeos. Uma função de tentativa virtual para fazer compras. E crítico, o lançamento do modo AI da ferramenta de pesquisa para todos os usuários nos Estados Unidos.
Mas mais do que quase duas horas de líderes do Google que falam sobre a IA, uma palavra que não ouvimos, foi “alucinação”.
As alucinações continuam sendo um dos problemas mais teimosos e relevantes dos modelos de IA. O termo refere -se a fatos e imprecisões inventadas que “alucinam” modelos com uma grande linguagem em suas respostas. E de acordo com as próprias estatísticas das grandes marcas de IA, as alucinações pioram – com alguns modelos alucinando mais de 40 % das vezes.
Mas se você visualizasse o Google I/O 2025, não saberia que esse problema existia. Você pensaria que modelos como Gêmeos nunca alucinam; Certamente o surpreenderia ver o aviso que foi adicionado a todas as vistas gerais do Google AI. (“As reações da AI podem conter erros”.).)
Velocidade de luz mashable
O Google mais próximo passou a reconhecer o problema de alucinação durante um segmento da apresentação no modo AI e as possibilidades de busca profunda de Gêmeos. O modelo verificou seu próprio trabalho antes de fornecer uma resposta, fomos informados sem mais detalhes sobre esse processo, parece mais o crono que leva o cegos do que o controle de fatos reais.
Para a IA -secpics, o grau de confiança do Vale do Silício parece se separar dos resultados reais nessas ferramentas. Usuários reais percebem quando as ferramentas de IA falham com tarefas simples, como contagem, verificação de ortografia ou resposta a perguntas como “A água congelará a 27 graus Fahrenheit?”
O Google queria lembrar aos espectadores que seu mais novo modelo de IA, Gemini 2.5 Pro, está no topo de muitas tabelas de classificação da IA. Mas quando se trata de veracidade e capacidade de responder a perguntas simples, os chatbots da IA são avaliados em uma curva.
O Gemini 2.5 Pro é o modelo de IA mais inteligente do Google (de acordo com o Google), mas ele obtém apenas 52,9 % na funcionalidade do teste de benchmarking do SimpleQA. De acordo com um artigo de pesquisa do Openai, o teste simples “é uma referência que avalia A capacidade dos modelos de idiomas de responder a perguntas curtas e buscando.“(Ênfase de nós.)
Um representante do Google se recusou a discutir a BENCIMAÇÃO SIMPLEQA ou alucinações em geral -mas nos apontou para a explicação oficial do Google sobre o modo de IA e as visões gerais da IA. É isso que tem a dizer:
(Modo AI) usa um modelo de linguagem grande para responder a consultas e é possível que, em casos raros, ele às vezes possa apresentar informações imprecisas cheias de confiança, que geralmente são conhecidas como ‘alucinação’. Assim como nas visões gerais da IA, esse experimento pode, em alguns casos, interpretar ou perder incorretamente o contexto, como pode acontecer com qualquer sistema automatizado ao pesquisar …
Também usamos novas abordagens com as opções de raciocínio do modelo para melhorar os fatos. Em colaboração com as equipes de pesquisa do Google DeepMind, por exemplo, usamos o aprendizado da Agentic WeeArcing (RL) em nosso treinamento modificado para recompensar o modelo para gerar declarações que eles sabem que são mais precisas (não alucinadas) e também são apoiadas por informações.
O Google está errado em estar otimista? Afinal, as alucinações podem se tornar um problema solúvel. Mas parece cada vez mais claro a pesquisa que as alucinações do LLMS não são um problema solúvel no momento.
Isso não impediu empresas como Google e OpenAI para correr à frente na era da assinatura de busca da IA e isso provavelmente é uma era errônea, a menos que alucinamos isso.
Subjugar
Inteligência artificial Google Gemini
