-
Um funcionário da Anthropic falou sobre a IA deixando-os confusos sobre seu trabalho.
-
A Anthropic pediu na quinta-feira uma desaceleração coordenada no desenvolvimento de IA entre os laboratórios de IA de ponta.
-
A nova tecnologia está virando os locais de trabalho de cabeça para baixo, reduzindo empregos e benefícios aos funcionários.
Um funcionário da Anthropic disse que os avanços da IA estão deixando-os em um estado de turbulência interna.
Em uma postagem de blog em seu site na quinta-feira, a Anthropic escreveu sobre os riscos de a IA progredir a um ponto em que pudesse melhorar de forma autônoma. A postagem citou funcionários não identificados da Anthropic que falaram sobre as capacidades de codificação da IA, e a citação de um funcionário resumiu a confusão em torno da IA na força de trabalho.
“Nos dias em que tudo funciona bem, não posso deixar de pensar que nada do que faço importa, tudo é automatizado e melhor e mais rápido do que jamais serei”, disseram.
“Mas há dias em que tudo quebra e não entendo por que e percebo que não tenho mais ideia do que tenho feito”, acrescentou o funcionário.
Outros relatos de funcionários incluíam um trabalhador que disse não ter escrito nenhum código há cerca de cinco meses, e outro que previu que o código gerado por IA superaria o código escrito por humanos dentro de um ano.
A postagem do blog dizia que o LLM de fronteira da Anthropic, Claude, poderia lidar com problemas de engenharia e tarefas de pesquisa, mas “grandes lacunas de desempenho persistem quando se trata de Claude exercer julgamento na escolha de objetivos tanto em engenharia quanto em pesquisa”.
Isso ocorre porque a IA, em um curto espaço de alguns meses, mudou funções como engenharia de software de forma irreconhecível. Laboratórios Frontier AI como Anthropic e OpenAI lançaram novos modelos no final do ano passado que podem executar tarefas complexas significativamente melhor do que suas versões mais antigas.
O efeito disto nos locais de trabalho tem sido monumental. Os CEOs das empresas passaram a flexibilizar quanto de seu código total é escrito por IA, com o Google dizendo que esse número é de 75%. E as empresas estão cada vez mais optando por gastar em IA em vez de contratar ou bónus de funcionários. Vários já anunciaram demissões vinculadas à IA.
A postagem do blog de quinta-feira foi escrita por funcionários do The Anthropic Institute, um braço da empresa que publica pesquisas e consultorias sobre o impacto e os riscos de poderosos sistemas de IA. No post, que falava sobre o desenvolvimento da IA a ponto de poder melhorar, o instituto pediu uma desaceleração no desenvolvimento da IA.
“Se os sistemas são capazes de construir totalmente os seus próprios sucessores, as formas como os protegemos, monitorizamos e moldamos o seu comportamento tornam-se muito mais importantes”, disse o instituto no blog.