O CEO antrópico Dario Amodei acredita que os modelos de IA de hoje alucinam, ou inventam as coisas como se fossem verdadeiras, em um ritmo mais baixo do que as pessoas, disse ele durante uma conferência de imprensa no primeiro evento antrópico de desenvolvedor, Code with Claude, em São Francisco, na quinta -feira.
Amodei disse isso tudo no meio de um ponto maior que ele fez: que a IA-Halucinações não é uma limitação no caminho dos sistemas antrópicos para a Agi-AI com inteligência em nível humano ou melhor.
“Depende realmente de como você o mede, mas suspeito que os modelos de IA provavelmente alucinem menos alucinando do que as pessoas, mas alucinam de maneiras mais surpreendentes”, disse Amodei, respondendo à pergunta da TechCrunch.
O CEO da Antrópico é um dos líderes mais otimistas da indústria sobre a perspectiva de modelos de IA que AGI alcançou. Em um jornal amplamente espalhado que ele escreveu no ano passado, Amodei disse que acreditava que a AGI poderia chegar em 2026. Durante a conferência de imprensa de quinta -feira, o CEO antrópico disse que viu progressos constantes e percebeu que “a água se eleva em todos os lugares”.
“Todo mundo está sempre procurando esses blocos rígidos sobre o que (ai) pode fazer”, disse Amodei. “Eles não estão em lugar algum para ver. Não existe tal coisa.”
Outros líderes da IA acreditam que a alucinação oferece um grande obstáculo para alcançar a AGI. No início desta semana, a Demis Hassabis, CEO do Google Deepmind, disse que os modelos de IA de hoje têm muitas ‘lacunas’ e têm muitas perguntas óbvias erradas. No início deste mês, por exemplo, um advogado representado como antropal foi forçado a se desculpar no tribunal depois que eles usaram Claude para fazer citações em um pedido judicial, e o AI Chatbot alucinou e ergueu nomes e títulos.
É difícil verificar a reivindicação de Amodei, principalmente porque a maioria dos benchmarks de alucinação coloca modelos de IA; Eles não comparam modelos com as pessoas. Certas técnicas parecem ajudar a reduzir as taxas de alucinação, como fornecer aos modelos de IA acesso à pesquisa pela Web. Separadamente, alguns modelos de IA, como o GPT-4.5 do OpenAI, têm, em particular, taxas de alucinação mais baixas nos benchmarks em comparação com as gerações precoces de sistemas.
No entanto, também há indicações de que as alucinações estão piorando no raciocínio avançado dos modelos de IA. Os modelos O3 e O4-mini do OpenAI têm taxas de alucinação mais altas do que os modelos de raciocínio de genes anteriores do OpenAI, e a empresa não entende realmente o porquê.
Mais tarde, na conferência de imprensa, Amodei apontou que emissoras de TV, políticos e pessoas em todos os tipos de profissões sempre cometem erros. Segundo Amodei, o fato de a IA também cometer erros não é uma batida em sua inteligência. O CEO da Antrópico, no entanto, reconheceu a confiança com a qual modela coisas falsas de IA, como fatos, pode ser um problema.
A Anthropic chegou a fazer uma quantidade considerável de pesquisas sobre a tendência dos modelos de IA de enganar as pessoas, um problema que parecia particularmente no recentemente lançado Claude Opus 4 da empresa. A Apollo Research, um instituto de segurança que deu acesso precoce para testar o modelo de IA, descobriu -se que uma versão inicial do Claude Opus 4 tem uma alta tendência a dar uma alta tendência contra os seres humanos e enganá -los contra os seres humanos e decidi -los. Apollo foi tão longe que antropia não deveria ter lançado esse modelo inicial. A Anthrópica disse que veio com algumas mitigações que pareciam enfrentar os problemas que Apollo abordou.
Os comentários de Amodei sugerem que o antrópico pode considerar um modelo de IA como AGI ou é igual à inteligência em nível humano, mesmo que ainda alucina. No entanto, uma IA que os alucinados podem falhar em falhar devido à definição de muitas pessoas.
