“South Park” é conhecido por ir além, mas o último episódio foi descrito pelos fãs online como “combustível de pesadelo”.
Naquele que é sem dúvida um dos episódios mais perturbadores do ano, os criadores de “South Park”, Trey Parker e Matt Stone, exploram como é fácil criar vídeos gerados por inteligência artificial – e como é fácil para algumas pessoas se apaixonarem por eles ou se convencerem de que vídeos reais são falsos.
A conversa sobre o episódio de quarta-feira girou em grande parte em torno do presidente Trump e do vice-presidente JD Vance sendo retratados fazendo sexo. Eles dizem aos repórteres que o vídeo vazado de seu caso era falso, criado com Sora 2, a versão mais recente do gerador de vídeo da OpenAI.
No mesmo episódio, intitulado “Sora Not Sorry”, os filhos de South Park geram vídeos de pornografia de vingança usando Sora como forma de se vingarem. Butters cria um vídeo explícito de Red com Papai Noel e, em seguida, cria um vídeo igualmente explícito com Butters e Totoro, do clássico do Studio Ghibli “My Neighbor Totoro”.
O caos então se instala quando as crianças fazem um frenesi de vídeos gerados por IA apresentando personagens animados conhecidos (e protegidos por direitos autorais). A força policial de South Park fica pasma com os vídeos, acreditando que sejam reais.
Droopy Dog, Rocky, Bullwinkle, Popeye e até mesmo o querido personagem pré-escolar Bluey são mencionados ou fazem aparições no episódio. Representantes do Studio Ghibli também aparecem, oferecendo a voz da razão na loucura, dizendo: “Você não pode simplesmente fazer o que quiser com a propriedade intelectual de outra pessoa”.
Isso ecoa a resposta real que o Studio Ghibli teve quando o Sora 2 surgiu, argumentando que o OpenAI provavelmente usou seu conteúdo e outras artes japonesas como dados de aprendizado de máquina. A Content Overseas Distribution Assn., uma organização antipirataria que representa os detentores de propriedade intelectual japoneses, divulgou uma carta no final de outubro dizendo que a organização acredita que as ações da OpenAI “podem constituir violação de direitos autorais”. A CODA exigiu que a OpenAI parasse de usar conteúdo japonês para aprendizado de máquina e solicitou que a empresa respondesse “sinceramente” às alegações de violação de direitos autorais.
A última atualização do Sora, lançada no final de setembro, é “mais precisa fisicamente, realista e mais controlável do que os sistemas anteriores”, de acordo com a OpenAI, e também apresenta diálogos sincronizados e efeitos sonoros.
A empresa provocou uma rápida reação ao lançar a nova versão porque estava operando sob um sistema em que os proprietários de propriedade intelectual tinham que cancelar o aplicativo, o que significava que os usuários podiam criar vídeos apresentando atores, personagens, vozes e imagens populares até que os detentores dos direitos fizessem o pedido de cancelamento.
Deepfakes não autorizados de celebridades, figuras mortas e personagens protegidos por direitos autorais começaram a circular rapidamente, incluindo vídeos de Robin Williams, Michael Jackson e Martin Luther King Jr., no que a empresa chamou de “representações desrespeitosas da imagem do Dr. A OpenAI e o espólio de King divulgaram uma declaração conjunta em outubro dizendo que o aplicativo bloquearia a capacidade de criar gerações apresentando King enquanto a empresa “fortalece as barreiras de proteção para figuras históricas”.
Depois que uma série de estúdios e agências de Hollywood expressaram sua frustração com esta política, o presidente-executivo da OpenAI, Sam Altman, escreveu em um blog que a empresa de IA dará aos detentores de direitos “um controle mais granular sobre a geração de personagens, semelhante ao modelo opt-in para semelhança, mas com controles adicionais”.
Alguns estúdios manifestaram interesse no espaço de conteúdo gerado pelo usuário, com o presidente-executivo da Disney, Bob Iger, dizendo em uma recente teleconferência de resultados que a empresa estava tendo “conversas produtivas” com empresas de IA não identificadas em um esforço para chegar a um acordo que também “refletisse nossa necessidade de proteger a propriedade intelectual”.
De volta à South Park Elementary, à medida que a batalha entre vídeos perturbadores gerados por IA esquenta, Kyle questiona como é legal criar esse tipo de conteúdo, especialmente com personagens protegidos por direitos autorais. “Nada é sagrado, Kyle”, Butters diz a ele. “Tudo o que você pode fazer é combater fogo com fogo.”
O episódio parece abordar as próprias frustrações de Parker e Stone com a replicação de seu trabalho, como evidenciado por uma frase do bilionário Peter Thiel, que também aparece no episódio: “Com Sora 2, posso fazer o garoto de South Park fazer praticamente qualquer coisa”.
