O enorme braço de computação em nuvem da Amazon supostamente sofreu pelo menos duas interrupções causadas por suas próprias ferramentas de inteligência artificial, levantando questões sobre a adoção da IA pela empresa ao demitir funcionários humanos.
Uma interrupção de 13 horas nas operações da Amazon Web Services (AWS) em dezembro foi causada por um agente de IA que escolheu autonomamente “excluir e recriar” uma parte de seu ambiente, informou o Financial Times.
A AWS, que fornece infraestrutura vital para grande parte da Internet, sofreu várias interrupções no ano passado.
Um incidente, em Outubro, derrubou dezenas de sites durante horas e suscitou discussões sobre a concentração de serviços online em infra-estruturas pertencentes a algumas grandes empresas. A AWS ganhou 189 contratos governamentais do Reino Unido no valor de £ 1,7 bilhão desde 2016, informou o Guardian em outubro.
As interrupções causadas pela IA foram eventos menores, disse a empresa, e apenas uma afetou os serviços voltados ao cliente.
A Amazon confirmou planos de cortar 16 mil empregos em janeiro, depois de demitir 14 mil funcionários em outubro passado. Em janeiro, o seu presidente-executivo, Andy Jassy, teria dito que estes cortes se referiam à cultura da empresa e não à substituição de trabalhadores por IA.
No entanto, Jassy disse anteriormente que os ganhos de eficiência da IA “reduzirão” a força de trabalho da Amazon nos próximos anos, e os agentes de IA permitirão que ela “se concentre menos no trabalho mecânico e mais em pensar estrategicamente sobre como melhorar as experiências do cliente”.
Em comunicado ao Financial Times, a Amazon disse que foi uma “coincidência” que ferramentas de IA estivessem envolvidas nas interrupções e que não havia evidências de que tal tecnologia levasse a mais erros do que engenheiros humanos. “Em ambos os casos, foi um erro do usuário, não um erro da IA”, afirmou.
Vários especialistas mostraram-se céticos em relação a esta avaliação. Um pesquisador de segurança, Jamieson O’Reilly, disse: “Embora os erros de engenharia causados por ferramentas tradicionais e por humanos não sejam uma ocorrência rara, a diferença entre estes e os acidentes onde a IA está envolvida é que ‘sem’ a IA, um ser humano normalmente precisa digitar manualmente um conjunto de instruções e, ao fazer isso, eles têm muito mais tempo para perceber seu próprio erro.
Os agentes de IA são frequentemente implantados em ambientes restritos e para tarefas específicas, disse O’Reilly, e não conseguem compreender as ramificações mais amplas de, por exemplo, reiniciar um sistema ou excluir um banco de dados – o que pode ter levado ao erro na Amazon.
“Eles não têm visibilidade total do contexto em que estão operando, como seus clientes podem ser afetados ou qual pode ser o custo do tempo de inatividade às 2h de uma terça-feira”, disse ele.
“Você tem que lembrar continuamente essas ferramentas do contexto – ‘ei, isso é sério, não encha isso’. E se você não fizer isso, ele começa a esquecer todas as outras consequências.”
No ano passado, um agente de IA projetado pela empresa de tecnologia Replit para construir um aplicativo excluiu todo o banco de dados da empresa, fabricando relatórios e depois mentindo sobre suas ações.
Michał Woźniak, especialista em segurança cibernética, disse que seria quase impossível para a Amazon impedir completamente que agentes internos de IA cometessem erros no futuro, porque os sistemas de IA fazem escolhas inesperadas e são extremamente complexos.
“A Amazon nunca perde a oportunidade de apontar para a” IA “quando esta é útil para eles – como no caso de demissões em massa que estão sendo enquadradas como substituição de engenheiros por IA. Mas quando um gerador de resíduos está envolvido em uma interrupção, de repente isso é apenas ‘coincidência'”, acrescentou.
A Amazon foi abordada para comentar.
