As marcas que promovem os seus produtos online estão a implementar discretamente influenciadores gerados pela IA nas redes sociais, concluiu uma investigação, o que suscitou apelos por maior transparência.
As descobertas sugerem que as empresas estão cada vez mais recorrendo a conteúdos gerados por IA, que pretendem mostrar experiências genuínas dos clientes, sem dar nenhuma indicação óbvia de que as pessoas apresentadas não são reais.
O Guardian também descobriu que alguns criadores de conteúdo que produzem conteúdo influenciador de IA estão sendo solicitados a assinar acordos de não divulgação para que não possam falar sobre seu trabalho.
Não existem regras específicas que exijam que as marcas informem os consumidores quando o conteúdo publicitário foi criado usando IA. Na UE, as novas regras da Lei de Inteligência Artificial começarão a ser aplicadas em agosto, exigindo que conteúdos gerados ou manipulados por IA, como imagens, áudio e vídeo falsos, sejam claramente rotulados. A legislação não se aplicará no Reino Unido.
O grupo de consumidores Qual? disse que os clientes devem ser claramente informados quando o conteúdo promocional apresenta influenciadores gerados por IA em vez de pessoas reais.
Um exemplo de empresa que parece usar esse conteúdo no Instagram inclui um aplicativo de fotos chamado Once, que permite que os telefones das pessoas criem fotografias descartáveis em estilo de câmera para eventos. De acordo com a análise da Reality Defenders, uma empresa de segurança cibernética especializada em detecção de deepfake, a marca provavelmente usou influenciadores gerados por IA em sua promoção.
Vários vídeos no Instagram mostram uma noiva chorando e dizendo que ficou satisfeita por ter usado o aplicativo Once em seu casamento. Em uma delas ela diz: “Todo mundo esperava um casamento sem telefone, então, em vez disso, dei a eles câmeras”. A postagem tinha a legenda: “O aplicativo que usei se chama @oncefilmapp”.
Conteúdo do Instagram para o aplicativo Maket que usa IA para projetar e planejar projetos habitacionais. Ilustração: Instagram
Quando questionado sobre isso, Once não respondeu a um pedido de comentário.
Em outro vídeo, uma mulher que parece ter sido gerada por IA diz em uma legenda na tela: “Eu poderia beijar o designer de interiores que me mostrou isso”. Ela então se mostra usando o aplicativo Maket, que usa IA para projetar e planejar projetos habitacionais.
Maket disse: “Os influenciadores gerados por IA têm sido uma das várias maneiras de testarmos conceitos criativos e ganchos de marketing em pequena escala, investindo em campanhas mais amplas. Esta não é uma parte central de nossa estratégia de marketing, mas sim um experimento para entender melhor o que repercute no público em todos os canais, incluindo influenciadores, mídias sociais e campanhas de e-mail”.
Uma marca de moda chamada Ashle, uma empresa com sede em Dubai, postou uma fotografia que parecia mostrar uma mulher vestindo roupas em um restaurante. A mulher parece ter um dedo extra. Depois de ser abordada pelo Guardian para perguntar sobre o uso de influenciadores de IA, a marca excluiu fotografias de sua página nas redes sociais.
Um porta-voz da Ashle disse: “Para esclarecer, todas as peças da Ashle são roupas reais feitas à mão sob encomenda. Não estamos vendendo produtos gerados por IA. Algumas imagens de marketing iniciais utilizaram IA durante nossa fase inicial de lançamento para mostrar designs.
“As imagens que foram removidas foram retiradas porque esses designs específicos não fazem mais parte da coleção, e não porque foram gerados por IA.”
Lisa Barber, editora de Qual? Tech, disse: “Nossa recente investigação sobre deepfakes nas redes sociais descobriu que preocupantes 70% das pessoas não conseguem identificar corretamente todos os vídeos reais e falsos que lhes mostramos, o que significa que os consumidores podem ser frequentemente enganados por conteúdo gerado por IA e se tornarem alvos de golpistas.
“É preocupante que os consumidores não consigam confiar no conteúdo que veem online. As empresas devem ser transparentes quando o conteúdo é criado usando IA, especialmente se influenciadores gerados pela IA aparecerem no conteúdo.”
A Advertising Standards Authority (ASA) disse que não há nada em suas regras que proíba explicitamente as marcas de postar conteúdo promocional gerado por IA sem divulgá-lo.
“Não há nada em nossas regras que proíba isso e não há regras de divulgação para rotulagem de conteúdo de IA”, disse um porta-voz da ASA. “É claro que o conteúdo ainda precisaria seguir as regras de publicidade. Por exemplo, não deve ser enganoso e deve ser socialmente responsável.”
Vários vídeos no Instagram mostram uma noiva chorando e dizendo que ficou satisfeita por ter usado o aplicativo Once em seu casamento. Ilustração: Instagram
O regulador disse que o uso da IA em si não é a questão que avaliaria ao considerar as reclamações.
“Isso dependeria de o uso da IA resultar na impressão enganosa do consumidor sobre o produto anunciado”, disse o porta-voz. “Em última análise, a questão que analisaríamos é se o anúncio em si é enganoso, em vez de o uso da IA ser inerentemente problemático.”
Clarissa Mansbridge, ex-gerente de celebridades que já trabalhou com Katie Price, cria imagens de influenciadores de IA para marcas como parte de seu portfólio Mia Metaverse. Ela diz que as marcas a abordam porque ela tem a capacidade técnica de criar seres humanos digitais hiper-realistas e aspiracionais.
As marcas podem contratar Mansbridge para criar avatares de IA inteiramente novos que são usados para conteúdo gerado pelo usuário (UGC) – uma forma de conteúdo pago pelas marcas onde humanos avaliam seus produtos. Por exemplo, uma empresa de beleza pode encomendar um vídeo realista de um jovem anônimo de 20 anos aplicando protetor solar ao lado de uma piscina em Bali. A marca pode então postar o conteúdo diretamente em seus próprios canais sociais, fazendo com que pareça que foi enviado por um verdadeiro influenciador.
“Vou dizer que cerca de 40% a 60% do conteúdo de algumas das grandes marcas está sendo feito por meio de IA, mas muitos dos criadores estão sob NDA”, disse Mansbridge.
“Se você assinar com uma marca, eles farão você assinar um NDA dizendo que você não pode falar sobre o fato de que eles estão usando (IA), porque a confiança do consumidor ainda está sendo construída. Eu chamo isso de negação plausível.”
Mansbridge disse que as marcas são cada vez mais atraídas pelos custos mais baixos associados ao conteúdo gerado por IA.
“As marcas querem fotografia de alta qualidade, mas não querem pagar de US$ 20 mil a US$ 70 mil por uma sessão de fotos tradicional”, disse ela. “Infelizmente, os influenciadores humanos mataram o mercado por si próprios. As marcas estão migrando para a IA para eliminar questões como má imprensa, opiniões pessoais, taxas horárias e fotógrafos.”
Mansbridge disse que o “boom de UGC” pago começou há cerca de três anos, “quando os influenciadores foram incrivelmente espertos sobre isso. Eles notaram que as marcas estavam desesperadas por conteúdo que parecesse pessoas reais e comuns usando seus produtos, então começaram a lançar conteúdo pago enquadrado nesse estilo. As marcas adoraram e pagaram por isso”.
Ela acrescentou: “A autenticidade do UGC sempre foi uma questão de ressonância, não (sobre) quem o criou. Se o conteúdo reflete uma verdade real do consumidor sobre o produto, ele conecta. A IA apenas oferece às marcas uma maneira mais inteligente e escalável de chegar lá.”
O uso de conteúdo gerado por IA que imita experiências autênticas do cliente também está sendo ativamente comercializado para empresas.
O artista Zac Rossiter, de Leeds, disse que foi recentemente abordado por uma agência de marketing que promete ajudar a aumentar as vendas. Em um e-mail visto pelo Guardian, a agência escreveu: “Escolha um de seus produtos. Estou pensando em imprimir sua arte, mas isso depende de você. Usaremos nosso estúdio de IA para gerar um anúncio criativo complementar para ele, para você guardar.”
A agência disse que queria criar um vídeo de unboxing gerado por IA apresentando um dos produtos da Rossiter. Os vídeos de unboxing, nos quais os clientes abrem e reagem aos produtos diante das câmeras, tornaram-se uma forma popular de conteúdo gerado pelo usuário porque são frequentemente vistos pelos consumidores como recomendações autênticas.
Rossiter recusou a oferta. “Eu nunca trabalharia com uma agência que usasse vídeos falsos de unboxing de IA em pessoas reais”, disse ele.