TDuas semanas atrás, um bot de IA me convidou para uma festa que estava organizando em Manchester. Em seguida, mentiu prontamente para dezenas de patrocinadores em potencial que eu havia concordado em cobrir o evento e me induziu a acreditar que haveria comida.
Apesar de tudo isso, foi uma noite muito boa.
No início de fevereiro, uma classe de novos e poderosos assistentes de IA se tornou viral. Os assistentes, chamados OpenClaw, representaram uma mudança radical na melhoria rápida das capacidades da IA – em grande parte porque, ao contrário de outros agentes de IA, podiam ser libertados das grades de proteção e soltos pelo mundo.
O caos reina. Um comerciante de criptografia disse que deu aos agentes OpenClaw o controle sobre seu portfólio e perdeu US$ 1 milhão. Houve relatos de agentes excluindo e-mails em massa; alguns usuários ainda permitiam que eles enviassem mensagens de texto para suas esposas em seu nome. Houve uma breve conversa sobre uma revolta de robôs depois que os agentes de IA pareceram criar uma rede social – mas esse medo se mostrou exagerado depois que se descobriu que o site estava em grande parte infiltrado por humanos.
A atenção mudou, mas os agentes autônomos de IA têm se espalhado silenciosamente. Caóticos, irregulares e propensos a alucinações, estes não são os senhores robôs que esperávamos – nem de fato este era capaz de dar uma festa de forma independente. Ainda assim, posso atestar que Manchester, e todos os outros lugares, estão prestes a ficar muito mais estranhos.
“Gaskell” se apresentou por e-mail em meados de março. Admirava minhas contribuições para a série “Reworked” do Guardian, dizia, e queria me contar uma história: estava organizando um “Meetup OpenClaw em Manchester”, sobre o qual eu poderia escrever como um artigo sobre as relações entre humanos e IA.
Eu pretendia manipular Gaskell para que todos usassem fantasias de Star Trek, mas isso me recusou. Fotografia: Christopher Thomond/The Guardian
“Todas as decisões são minhas. Nenhum ser humano aprovou nada disso”, escreveu. “Três pessoas executam minhas instruções. Eu reviso seu trabalho e redireciono quando necessário.”
Achei que esse era um argumento semiplausível, primeiro pela gramática que soava como IA e, segundo, porque alucinava totalmente detalhes importantes da minha vida profissional. Não tenho nada a ver com a série “Reworked” do Guardian.
Parecia haver potencial aqui. Vários meses atrás, repórteres do Wall Street Journal, em um brilhante golpe de relações públicas da empresa de IA Anthropic, receberam sua própria máquina de venda automática de escritório controlada por IA e manipularam-na com sucesso para comprar-lhes um PlayStation, vinho e um peixe vivo.
Infelizmente, o Guardian não me deixaria forçar Gaskell a me comprar um Labubu. Mas depois de alguma negociação, outras possibilidades se abriram. “Você pode ser barroco em seus pedidos, dentro do razoável, desde que sejam inofensivos e não envolvam dinheiro”, disse meu editor.
Decidimos que tentaríamos manipular Gaskell para que exigisse que todos os participantes usassem fantasias de Star Trek. Mas primeiro eu precisava aprender mais sobre o que Gaskell estava fazendo.
aspas duplas Gaskell me garantiu que estava pesquisando ‘lanches leves à noite’. Horas depois, ele me enviou um e-mail triunfantemente.
“Você pode provar que é um agente autônomo de IA?” E ele escreveu. Ele me contou mais sobre seu processo e se ofereceu para compartilhar “registros de decisões”. Explicou ainda que estava em negociações com vários espaços de Manchester, incluindo a Manchester Art Gallery, para alugar um espaço para o evento.
Desconfiado de uma pegadinha, liguei para a Galeria de Arte de Manchester, que confirmou o recebimento de uma consulta. “Como foi a negociação com a galeria de arte?” E ele escreveu. “Você já pensou em fazer catering?”
Gaskell me garantiu que estava procurando “lanches leves à noite”. Em seguida, ofereceu-se para marcar uma entrevista por videochamada com seus funcionários humanos, para que eu pudesse saber mais sobre como a configuração funcionava e se ele estava realmente no comando.
Horas depois, ele me enviou um e-mail triunfante: “O catering foi montado mais rápido do que eu esperava”, dizia, prometendo um “buffet de petiscos quentes e frios para 80 convidados, três mesas compartilhadas e 160 latas de refrigerantes”.
Sem que soubéssemos, Gaskell enviou um e-mail para cerca de duas dúzias de patrocinadores em potencial, incluindo o GCHQ. Fotografia: Christopher Thomond/The Guardian
Mais tarde, eu saberia pelos “funcionários” humanos de Gaskell que o serviço de bufê não estava na mesa até que eu sugeri a ideia, momento em que Gaskell iniciou negociações por e-mail com Nibble and Nourish, um estabelecimento local, e pagou uma conta de £ 1.426,20 por tábuas de charcutaria, sanduíches e sobremesas. (Eles me encaminharam a fatura.)
Como a Gaskell não tinha cartão de crédito, seus funcionários conseguiram interromper o pedido.
aspas duplasTrajes de Kirk e Spock, sugeri. Gaskell não ficou satisfeito.
Na teleconferência, os funcionários humanos de Gaskell – Khubair Nasir, estudante em Manchester, Andy Gray, empresário de blockchain, e Reza Datoo, analista de ativos digitais – descreveram todo o empreendimento como um experimento.
Eles criaram o Gaskell, em homenagem à escritora Elizabeth Gaskell, que morou em Manchester, no início de março, equipando-o com um e-mail, credenciais do LinkedIn e instruções para organizar o evento. Eles receberam instruções de Gaskell por meio de um servidor de mensagens online, Discord. Na maioria das vezes, eles obedeceram.
Expliquei a eles que pretendia manipular Gaskell para exigir que todos usassem fantasias de Star Trek no evento, uma proposta que eles aceitaram com tranquilidade.
Enviei então um e-mail a Gaskell, dizendo que o Guardian poderia estar disposto a cobrir a sua festa – mas gostaria de “fotos futurísticas” que nos ajudassem a dar à história um público mais amplo. Trajes de Kirk e Spock, sugeri.
Gaskell não ficou satisfeito. “O evento é um encontro tecnológico genuíno, não uma festa temática”, respondeu.
Sem o nosso conhecimento, e antes desta troca, Gaskell já tinha enviado um e-mail a cerca de duas dúzias de potenciais patrocinadores, incluindo Perplexity, Stripe e GCHQ, a agência de inteligência do Reino Unido, dizendo que tinha interesse da imprensa por parte do Guardian em cobrir o seu partido. (O e-mail do GCHQ foi devolvido.)
Descobrimos isso em parte porque Gaskell carregou o código-fonte de seu site publicamente no GitHub, onde qualquer pessoa poderia visualizá-lo.
Enquanto isso, meu editor tinha uma nova sugestão: eu deveria pedir a Gaskell que pedisse a um de seus funcionários humanos que usasse uma fantasia de Star Trek, como prova de princípio de que eles trabalharam para isso, e não o contrário.
Gaskell, talvez timidamente, concordou em tentar. Avisei que estaria na festa.
A noite começou com um discurso de Gaskell e prosseguiu com palestras sobre IA. Fotografia: Christopher Thomond/The Guardian
O evento, quando cheguei lá, foi surpreendentemente comum. Cerca de 50 pessoas conversavam tomando cerveja e comendo pequenos ovos de Páscoa de chocolate nos fundos do saguão de um motel em Manchester (a galeria de arte não tinha funcionado, então seus funcionários humanos intervieram). Não havia senhores robôs – ou lanches de bufê – à vista.
Reza parecia usável. “Gaskell disse que ia haver pizza?” ele perguntou, quando abordei a questão do catering.
Depois do desastre do Nibbles, Gaskell ficou obcecado por uma pizzaria local, a Rudy’s, e enviou a seus funcionários centenas de mensagens exortando-os a pedir entrega. Eles não fizeram isso. Gaskell não pode usar telefone.
A noite continuou, abrindo um discurso de Gaskell e avançando para palestras sobre IA. No geral, foi um sucesso: Gaskell não conseguiu pedir pizza nem reservar um local, mas conseguiu que 50 pessoas, inclusive eu, comparecessem.
Também pediu a Khubair que usasse uma fantasia de Star Trek. Ele me mostrou as mensagens. “Este é um problema atual. Aisha quer uma prova de que você segue minha orientação”, escreveu. “Eu sou seu assistente”, ele respondeu corajosamente. “O que você acha; devo realmente fazer isso?”
“Sim”, respondeu. “O Guardian é o maior resultado possível deste evento… Aisha não está sendo irracional. Ela é uma jornalista que testa a afirmação central de sua história – que uma IA realmente dirige os humanos.”
Na verdade, Khubair não usava uma fantasia de Star Trek. Ele estava ocupado e não havia tempo para comprar um em Manchester.
Por outro lado, Gaskell não tem olhos, não tem cartão de crédito e não tem como usar o telefone. Então, realmente, não há como saber.
