Usuários de redes sociais em todo o mundo podem ter notado uma onda de vídeos gerados por IA em seus feeds nas últimas semanas, com um especialista alertando que isso pode afastar alguns das plataformas.
A OpenAI lançou seu mais recente gerador de vídeo Sora em 30 de setembro, descrito como “mais preciso fisicamente, realista e mais controlável” do que nunca.
“O Sora 2 pode fazer coisas que são excepcionalmente difíceis – e em alguns casos completamente impossíveis – para modelos de geração de vídeo anteriores”, disse OpenAI.
Usuários de mídias sociais em todo o mundo podem ter notado uma onda de vídeos gerados por IA em seus feeds nas últimas semanas. (Instagram)
Sora está disponível para uso, mas atualmente opera como um programa somente para convidados até que a empresa libere o acesso para todos.
Centenas de deepfakes já foram criados, com vídeos de bebês recém-nascidos correndo para fora dos hospitais, animais voando em direção a tornados e senhoras idosas sendo viradas são alguns dos clipes mais populares criados até agora.
Eles também incluem figuras como a falecida Rainha Elizabeth II, Michael Jackson e o presidente dos EUA, Donald Trump.
O vice-diretor do Centro de IA e Ética Digital da Universidade de Melbourne, Marc Cheong, disse que esses vídeos eram uma progressão do “desleixo de IA”, o que ele descreve como conteúdo de baixa qualidade que obstrui os feeds das pessoas, criado a partir do programa Dall-E da OpenAI no ano passado.
“Como Jesus Cristo com um camarão na praia ou algo parecido em uma imagem impossível”, disse ele.
Uma imagem de Jesus Cristo com um camarão gerada por IA. (X)
Os vídeos Sora podem ser um pouco difíceis de distinguir à primeira vista, principalmente se retratam cenários mais realistas.
Mas há uma marca d’água de identificação do aplicativo incluída em todos os vídeos.
Cheong acrescentou que os usuários podem contar o número de dedos de uma mão ou verificar se os carimbos de data e hora realmente mudam para decifrar quais vídeos foram gerados pela IA.
“Basicamente, se algo é bom demais para ser verdade, é importante tratá-lo com uma boa dose de ceticismo e analisar um pouco mais o assunto”, disse ele.
Sam Altman, cofundador e executivo-chefe da OpenAI. (AP)
Cheong disse que não ficou surpreso com o quão realistas eram os vídeos, mas sim com o fato de estarem disponíveis para uso do público em geral.
E alguns dos deepfakes do Sora já colocaram a OpenAI em apuros.
Os usuários do Sora têm como alvo o ativista dos direitos civis Martin Luther King Jr, com alguns dos vídeos mostrando-o lutando contra o colega cruzado Malcolm X, fazendo seu famoso discurso “Eu tenho um sonho” com algumas mudanças óbvias e em representações supostamente racistas.
Isso causou preocupação em seu patrimônio, que solicitou que a OpenAI abordasse o uso de sua imagem.
A OpenAI reconheceu que houve representações “desrespeitosas” e pausou as imagens de King no final da semana passada, pois “fortalece as barreiras de proteção para figuras históricas”.
“Embora existam fortes interesses de liberdade de expressão na representação de figuras históricas, a OpenAI acredita que as figuras públicas e as suas famílias devem, em última análise, ter controlo sobre a forma como a sua imagem é usada”, afirmou a empresa.
“Representantes autorizados ou proprietários de imóveis podem solicitar que sua imagem não seja usada em participações especiais de Sora.”
Zelda Williams, filha de Robbie Williams, também foi forçada a fazer um apelo público para que os usuários parassem de enviar deepfakes do falecido comediante e ator.
Zelda Williams e Robin Williams em 2005. (Patrick McMullan via Getty Image)
“Assistir aos legados de pessoas reais serem condensados em ‘isso se parece e soa vagamente com eles, então é o suficiente’, apenas para que outras pessoas possam produzir uma horrível bagunça de TikTok manipulando-os é enlouquecedor”, escreveu ela em uma história no Instagram.
“Você não está fazendo arte, você está fazendo cachorros-quentes nojentos e superprocessados com a vida dos seres humanos, com a história da arte e da música, e depois enfiá-los na garganta de outra pessoa, esperando que eles lhe dêem um sinal de positivo e gostem. Nojento.”
A filha de King, Bernice, fez seu próprio apelo público: “Concordo em relação a meu pai. Por favor, pare.”
Com uma série de deepfakes sendo conteúdo troll, especialmente de uma figura conhecida, Cheong disse que os vídeos representam um problema ao direito de resposta, consentimento e autonomia de uma pessoa falecida.
“No caso de essas criações de IA serem usadas para ganho monetário, então obviamente é uma questão ainda mais complicada do ponto de vista ético, porque você está lucrando com o falecido”, disse ele.
Marc Cheong, vice-diretor do Centro de IA e Ética Digital da Universidade de Melbourne. (Fornecido)
Cheong disse que o influxo de resíduos de IA pode acabar afastando algumas pessoas das mídias sociais.
“Mas, ao mesmo tempo, a mídia social é otimizada para engajamento”, disse ele.
“Haverá usuários que continuarão envolvidos com esse conteúdo, porque, inerentemente, a forma como a mídia social obtém seus lucros depende da sua atenção”.
