O recurso de pesquisa AI Overviews do Google cita o YouTube mais do que qualquer site médico ao responder perguntas sobre condições de saúde, de acordo com uma pesquisa que levanta novas questões sobre uma ferramenta vista por 2 bilhões de pessoas todos os meses.
A empresa afirmou que seus resumos de IA, que aparecem no topo dos resultados de pesquisa e usam IA generativa para responder às perguntas dos usuários, são “confiáveis” e citam fontes médicas confiáveis, como os Centros de Controle e Prevenção de Doenças e a Clínica Mayo.
No entanto, um estudo que analisou respostas a mais de 50.000 consultas de saúde, captadas através de pesquisas do Google em Berlim, descobriu que a fonte mais citada foi o YouTube. A plataforma de compartilhamento de vídeos é o segundo site mais visitado do mundo, depois do próprio Google, e é propriedade do Google.
Pesquisadores do SE Ranking, uma plataforma de otimização de mecanismos de busca, descobriram que o YouTube representava 4,43% de todas as citações do AI Overview. Nenhuma rede hospitalar, portal de saúde do governo, associação médica ou instituição acadêmica chegou perto desse número, disseram.
“Isso é importante porque o YouTube não é um editor médico”, escreveram os pesquisadores. “É uma plataforma de vídeo de uso geral. Qualquer pessoa pode enviar conteúdo para lá (por exemplo, médicos certificados, canais hospitalares, mas também influenciadores de bem-estar, treinadores de vida e criadores sem nenhum treinamento médico).”
O Google disse ao Guardian que o AI Overviews foi projetado para exibir conteúdo de alta qualidade de fontes confiáveis, independentemente do formato, e uma variedade de autoridades de saúde confiáveis e profissionais médicos licenciados criaram conteúdo no YouTube. As conclusões do estudo não puderam ser extrapoladas para outras regiões, uma vez que foram realizadas utilizando consultas em língua alemã na Alemanha, afirmou.
A pesquisa ocorre depois que uma investigação do Guardian descobriu que pessoas estavam correndo risco de danos por informações de saúde falsas e enganosas nas respostas do Google AI Overviews.
Num caso que os especialistas consideraram “perigoso” e “alarmante”, o Google forneceu informações falsas sobre testes cruciais da função hepática que poderiam ter feito com que pessoas com doenças hepáticas graves pensassem erroneamente que eram saudáveis. Posteriormente, a empresa removeu as visões gerais de IA de algumas pesquisas médicas, mas não de todas.
O estudo SE Ranking analisou 50.807 solicitações e palavras-chave relacionadas à saúde para ver em quais fontes as visões gerais de IA se basearam ao gerar respostas.
Eles escolheram a Alemanha porque o seu sistema de saúde é estritamente regulamentado por uma combinação de diretivas, normas e regulamentos de segurança alemães e da UE. “Se os sistemas de IA dependem fortemente de fontes não médicas ou não autorizadas, mesmo em tal ambiente, isso sugere que o problema pode estender-se para além de qualquer país”, escreveram.
As visões gerais de IA surgiram em mais de 82% das pesquisas sobre saúde, disseram os pesquisadores. Quando analisaram em quais fontes as visões gerais de IA se baseavam com mais frequência para obter respostas relacionadas à saúde, um resultado se destacou imediatamente, disseram eles. O domínio mais citado foi o YouTube, com 20.621 citações de um total de 465.823.
Pesquisadores do SE Ranking descobriram que o YouTube representava 4,43% de todas as citações do AI Overview. Fotografia: Adam Vaughan/EPA
A próxima fonte mais citada foi NDR.de, com 14.158 citações (3,04%). A emissora pública alemã produz conteúdos relacionados à saúde, além de notícias, documentários e entretenimento. Em terceiro lugar ficou um site de referência médica, Msdmanuals.com com 9.711 citações (2,08%).
A quarta fonte mais citada foi o maior portal de saúde do consumidor da Alemanha, Netdoktor.de, com 7.519 citações (1,61%). A quinta fonte mais citada foi uma plataforma de carreira para médicos, Praktischarzt.de, com 7.145 citações (1,53%).
Os pesquisadores reconheceram limitações em seu estudo. Foi realizado como um instantâneo único em dezembro de 2025, utilizando consultas em alemão que refletiam a forma como os utilizadores na Alemanha normalmente procuram informações de saúde.
Os resultados podem variar ao longo do tempo, por região e pela formulação das perguntas. No entanto, mesmo com essas advertências, as descobertas ainda provocaram alarme.
Hannah van Kolfschooten, pesquisadora especializada em IA, saúde e direito na Universidade de Basileia que não esteve envolvida na pesquisa, disse: “Este estudo fornece evidências empíricas de que os riscos apresentados pelas visões gerais de IA para a saúde são estruturais, e não anedóticos. Torna-se difícil para o Google argumentar que resultados de saúde enganosos ou prejudiciais são casos raros.
“Em vez disso, as descobertas mostram que estes riscos estão incorporados na forma como as visões gerais da IA são concebidas. Em particular, a forte dependência do YouTube, em vez de autoridades de saúde pública ou instituições médicas, sugere que a visibilidade e a popularidade, em vez da fiabilidade médica, são o motor central do conhecimento em saúde.”
Um porta-voz do Google disse: “A implicação de que as visões gerais de IA fornecem informações não confiáveis é refutada pelos próprios dados do relatório, que mostram que os domínios mais citados nas visões gerais de IA são sites respeitáveis. E pelo que vimos nas descobertas publicadas, as visões gerais de IA citam conteúdo especializado do YouTube de hospitais e clínicas”.
O Google disse que o estudo mostrou que dos 25 vídeos mais citados no YouTube, 96% eram de canais médicos. No entanto, os investigadores alertaram que estes vídeos representavam menos de 1% de todos os links do YouTube citados pelas AI Overviews sobre saúde.
“A maioria deles (24 de 25) vem de canais relacionados à medicina, como hospitais, clínicas e organizações de saúde”, escreveram os pesquisadores. “Além disso, 21 dos 25 vídeos mostram claramente que o conteúdo foi criado por uma fonte licenciada ou confiável.
“Então, à primeira vista, parece bastante reconfortante. Mas é importante lembrar que esses 25 vídeos são apenas uma pequena fatia (menos de 1% de todos os links do YouTube que as visões gerais de IA realmente citam). Com o restante dos vídeos, a situação poderia ser muito diferente.”
