Recentemente, a agente literária Kate Nash começou a perceber que as cartas de submissão que recebia de autores estavam se tornando mais completas – embora também mais estereotipadas.
“Eu considerei isso um aumento na diligência”, disse ela. “Achei que era uma coisa boa.”
Mas então ela teve o que descreveu como seu momento eureka: a carta com o prompt da IA bem no topo. “Leia: ‘Reescreva minha carta-consulta para Kate Nash, incluindo uma carta para um escritor que ela representa’”, disse ela.
Depois que Nash viu o prompt, ela “não conseguiu deixar de ver as consultas assistidas ou escritas por IA novamente”.
O selo Orbit da Hachette confirmou que interrompeu a publicação nos EUA de Shy Girl, de Mia Ballard, após uma revisão interna. O título também foi removido dos varejistas online e não será mais distribuído no Reino Unido. Fotografia: RP
A notícia da semana passada de que o romance de terror “femgore” de Mia Ballard, Shy Girl, poderia ser até 78% gerado por IA, no entanto, forçou agentes literários e editores a considerar se apenas olhos aguçados podem detectar trabalhos gerados por IA.
“A questão de como a Shy Girl escapou da rede da Hachette é algo que a editora tem que responder sozinha, mas, na realidade, foi apenas uma questão de tempo até que isso acontecesse”, disse Anna Ganley, executiva-chefe da Society of Authors.
Wildfire, uma marca britânica da Hachette, publicou Shy Girl em novembro de 2025. A publicação estava prevista para abril nos EUA, mas a polêmica levou à descontinuação no Reino Unido e ao cancelamento nos EUA no início deste mês. Ballard negou ter usado IA para escrever Shy Girl, dizendo ao New York Times, que primeiro relatou a história, que um conhecido que ela contratou para editar uma versão autopublicada do romance a usou.
Um editor de uma das “cinco grandes” editoras disse que “um arrepio percorreu minha espinha” quando a história da Shy Girl foi divulgada. “É realmente um caso de ‘lá, mas pela graça de Deus eu vou’”, disseram eles.
“É uma questão da qual os editores estão bem conscientes. Deixamos bem claro aos autores o que esperamos, fazemos com que assinem contratos e executamos o seu trabalho através de múltiplas ferramentas de detecção de IA, mas sabemos que tudo isto é falível.
“Daí o arrepio: se um autor está determinado a usar IA e depois encobrir seus rastros, há muito pouco que possamos fazer.”
O professor Patrick Juola, um cientista da computação dos EUA conhecido por seu trabalho sobre atribuição de autoria, concorda. “Não quero chamar as ferramentas de detecção de IA de fraude, mas é uma tecnologia que simplesmente não funciona.”
Ele gostou do fracasso na resistência aos antibióticos: “A IA é um sistema de aprendizagem continuamente actualizado pelos seus fabricantes. Se houvesse uma tecnologia de detecção que funcionasse, então as pessoas simplesmente construiriam melhores ferramentas de IA para enganá-la”.
Mor Naaman, professor de ciência da informação na Cornell Tech e chefe do grupo de pesquisa em tecnologias sociais, concorda. “A IA aprende muito rapidamente como evitar a detecção da IA. Ainda não chegamos lá, mas em breve os editores não terão a menor chance”, disse ele.
A sofisticação da tecnologia já levantou um ponto interessante, disse Nikhil Garg, professor assistente do Instituto Jacobs da Cornell Tech. “Autores sofisticados que desejam escapar das ferramentas de detecção sabem como editar seu texto, testá-lo com essas ferramentas e revisá-lo novamente”, disse ele. “Em algum momento, você terá que perguntar: isso se tornou trabalho deles, apesar da IA?”
Naamã concordou que, embora Shy Girl parecesse ser um exemplo “flagrante”, havia cada vez mais áreas cinzentas. “Todos nós trabalhamos em um mundo híbrido de IA agora. Quando algo se torna um livro gerado por IA, em vez de apenas usar IA como eu uso um corretor ortográfico, para corrigir minha gramática ou talvez gerar ideias?” ele perguntou.
Anna Ganley, da Sociedade de Autores (fotografada em um protesto no ano passado contra o uso de conteúdo de autores pela Meta para treinar sua IA), disse que “era apenas uma questão de tempo” até que livros gerados por IA escapassem pela rede. Fotografia: Adrian Pope
Se tudo isto for verdade, a questão óbvia é: porque é que importa que a IA escreva os nossos livros? Afinal, em um extremo do espectro, os livros genéricos e estereotipados sempre representaram uma proporção considerável de qualquer estante de livraria. Por que importaria se eles foram gerados por humanos ou por IA?
E se a IA se tornou sofisticada o suficiente para escrever livros genuinamente envolventes, isso importa, desde que a literatura seja boa?
Para Naamen, a razão pela qual isto é importante é cultural: a IA pode inundar a página, mas não pode substituir o trabalho confuso e difícil do ser humano – o próprio trabalho que a literatura existe para reflectir aos seus leitores.
“A IA empurra os usuários para uma monocultura branda. Ela nunca poderia gerar a criatividade verdadeiramente diversificada da mente humana”, disse ele. O debate não era apenas sobre originalidade, acrescentou, mas também sobre quem escreve, quem pode ser lido e quem, em última análise, molda a nossa cultura.
“A IA insere sutilmente pontos de vista específicos em seu trabalho que são conduzidos por algoritmos de corporações muito poderosas”, disse Naamen. “E se a IA absorver todos os trabalhos e oportunidades menores de redação, então os autores emergentes serão desqualificados antes de terem a chance de criar seus trabalhos realmente significativos.”
No início deste mês, Ganley lançou o esquema de autoria humana para identificar obras escritas por humanos. É, no entanto, um sistema baseado na confiança – esse valor singularmente humano e inerentemente vulnerável.
Mas, como diz Nash, nesta era de engano, a confiança é mais valiosa do que nunca. “Os leitores confiam nos escritores. Os escritores precisam continuar a confiar em si mesmos em vez das máquinas”, disse ela. “O vínculo entre leitor e escritor também é baseado na confiança; o envolvimento pode operar em vários níveis, mas acima de tudo, deve ser significativo.”
