Dario Amodei, CEO e fundador da Anthropic, acaba de publicar um ensaio online que começa comparando a IA aos Hobbits no Senhor dos Anéis. E essa pode não ser a única peça de ficção nele, se quisermos acreditar na carta do sistema do modelo Claude Mythos da própria Anthropic.
“A interseção da IA e de nossas instituições políticas parece um pouco com os Hobbits e Barbárvore”, escreve Amodei – isto é, Barbárvore, o Ent, se move tão devagar que nem consegue entender os velozes Hobbits. Mas então Amodei se volta para uma afirmação controversa – uma que, para continuar a analogia do Senhor dos Anéis, significaria que os Hobbits estão se movendo exponencialmente mais rápido o tempo todo.
“As leis de escala da IA, que prevêem um aumento exponencial nas capacidades cognitivas gerais com o aumento do poder computacional, têm agora mais de uma década de evidências empíricas por trás delas”, afirma Amodei. “Se essas leis de escalonamento continuarem por apenas mais um ou dois anos, provavelmente obteremos o que chamo de IA poderosa”.
Não é uma referência única; Amodei, que está prestes a lucrar com um IPO lucrativo da Antrópico, usa a palavra “exponencial” seis vezes no ensaio. Isso inclui o título “Política sobre a IA exponencial”. Mas é verdade?
Deixemos por um momento o duvidoso artigo da OpenAI de 2020 que Amodei vincula para provar sua afirmação, ou a evidência abundante de outros especialistas em IA de que as “capacidades cognitivas” da maioria dos grandes modelos de linguagem não estão crescendo tão rápido, se é que estão crescendo. O ensaio de Amodei parece contradizer a palavra de… bem, antrópico em si.
VEJA TAMBÉM:
A mudança na vibração da IA é real: por que a reação está crescendo
No cartão do sistema para a prévia de Claude Mythos (PDF), o modelo que Amodei exalta no ensaio pelas preocupações de segurança cibernética que causou, você encontrará a seguinte afirmação: “Os ganhos (de inteligência) que podemos identificar são confiantemente atribuível à pesquisa humana, não à assistência de IA … as primeiras reivindicações de grandes vitórias atribuíveis à IA não se sustentaram.“(Ênfase nossa.)
Velocidade da luz mashável
Você pode pensar que não pode ser mais definitivo do que isso – a menos que você leia o cartão do sistema para outro novo modelo de fronteira da Anthropic, Fable 5. Usando um teste chamado Epoch Capabilities Index, os pesquisadores da Anthropic se propuseram especificamente a ver se havia evidências de um ciclo de feedback que levaria ao que os especialistas em IA têm chamado de AGI ou Superinteligência Digital. E o resultado não poderia ser mais claro.
“Não observamos uma aceleração sustentada de 2× atribuível à IA no ritmo de nosso progresso em IA”, diz o cartão do sistema Fable (PDF).
Então, de onde Amodei está obtendo suas informações exponenciais? Entramos em contato com a Anthropic para esclarecimentos, mas a citação que o CEO usa é para um artigo de 2020 chamado Scaling Laws for Neural Language models, de coautoria de Jared Kaplan (então com OpenAI, agora cofundador da Anthropic). A conclusão desse artigo foi questionada por outro importante pesquisador de IA, Gary Marcus, nos últimos quatro anos.
“Existem sérias lacunas no argumento do escalonamento”, escreveu Marcus em 2022. “Na verdade, podemos já estar a atingir limites de escalonamento na aprendizagem profunda, talvez já nos aproximando de um ponto de retornos decrescentes.” Ele citou pesquisas sobre o modelo GPT-3 da OpenAI, que “mostraram que a escala começa a falhar em algumas medidas, como toxicidade, veracidade, raciocínio e bom senso”.
Marcus foi ridicularizado pelos verdadeiros crentes da IA na época, mas desde então foi justificado – especialmente desde o lançamento do GPT-5, que não era a Superinteligência que alguns de seus usuários esperavam.
Encontrar evidências do crescimento exponencial da IA desde então pode ser mais difícil do que simplesmente entrar em Mordor.
Relatórios adicionais fornecidos por Timothy Werth
Tópicos
Inteligência Artificial Antrópica