Um sistema de IA trabalhará com humanos para fazer uma descoberta ganhadora do prêmio Nobel dentro de 12 meses e os comerciantes serão ajudados por robôs bípedes em dois anos, segundo o cofundador da Anthropic.
Jack Clark descreveu uma “sensação vertiginosa de progresso” na tecnologia e fez uma série de previsões, incluindo que as empresas geridas exclusivamente por IA estariam a gerar milhões de dólares em receitas no prazo de 18 meses, e que até ao final de 2028, os sistemas de IA seriam capazes de conceber os seus próprios sucessores.
Numa palestra na Universidade de Oxford na quarta-feira, ele também disse que permaneciam cenários plausíveis em que a tecnologia tinha “uma chance diferente de zero de matar todas as pessoas no planeta” e que era “importante afirmar claramente que esse risco não desapareceu”. O modelo mais popular da Antrópico chama-se Claude, mas lançou recentemente uma versão chamada Mythos que se revelou alarmantemente capaz de explorar as fraquezas da segurança cibernética.
Clark disse aos estudantes que seria melhor se os humanos pudessem retardar o desenvolvimento da tecnologia “para nos dar mais tempo como espécie” para lidar com as implicações dos seus poderes. Mas ele disse que isso não aconteceria, no desenvolvimento vertiginoso “por uma variedade de atores e uma variedade de países, presos numa competição entre si, onde as rivalidades comerciais e geopolíticas estão muitas vezes abafando os aspectos existenciais mais amplos da tecnologia que está sendo construída”. Isso “não era o ideal”, disse ele.
Jack Clark disse que queria encorajar a humanidade a preparar-se para uma tecnologia que “em breve seria mais capaz do que todos nós colectivamente”. Fotografia: Samuel Corum/Bloomberg/Getty Images
Clark é uma das figuras mais importantes da Anthropic, que foi fundada por pesquisadores de IA que deixaram a empresa rival OpenAI por divergências sobre segurança. A empresa de 900 mil milhões de dólares (670 mil milhões de libras) foi acusada pela Casa Branca de Donald Trump e outros aceleradores de IA de “promover o medo” para encorajar a regulamentação que poderia consolidar a sua posição competitiva.
A Anthropic contesta isso, e Clark disse que muitas pessoas pareciam negar o progresso da IA. Ele disse que queria encorajar a humanidade a se preparar para uma tecnologia que “em breve seria mais capaz do que todos nós coletivamente”. Comparando o fracasso na preparação para a IA com o fracasso na preparação para pandemias como a Covid, ele disse: “Se ficarmos parados e deixarmos a inteligência sintética se multiplicar, eventualmente seremos forçados à reatividade”.
Os críticos das empresas fronteiriças de IA, como a Anthropic, a OpenAI e a Google, temem que a dependência excessiva dos seus poucos modelos de IA – que têm sido apoiados por enormes quantidades de capital com fins lucrativos – possa criar um “ponto único de falha” nos sistemas globais.
O professor Edward Harcourt, diretor do Instituto de Ética em IA, que co-organizou a palestra de Clark, alertou separadamente que o surgimento de IAs que faziam cada vez mais coisas pelos humanos corria o risco de criar “atrofia cognitiva” que poderia enfraquecer a tomada de decisões e os poderes de julgamento dos humanos. Ele defendeu modelos alternativos de IA que pedem aos humanos que pensem mais, às vezes chamados de IA “socrática”.
Clark disse que a sua previsão mais conservadora era que “vastas áreas da economia e da sociedade passarão por mudanças profundas” – o que poderia incluir uma economia mecânica dissociada da economia humana, robôs ganhando cérebros, a ciência progredindo sem humanos e equipamento científico que as pessoas não tinham concebido mas que funcionavam. Ele admitiu que parte disso parecia “louco”.
