Os vídeos racistas e anti -semíticos virais parecem ser feitos com o novo gerador de vídeo da AI do Google, Veo 3, de acordo com um novo relatório da Media Matters.
A organização de pesquisa sem fins lucrativos mostrou que alguns dos vídeos odiosos haviam coletado centenas de milhares ou milhões de visualizações.
Um porta -voz da Tiktok disse a Mashable que a plataforma tem uma forte política contra o discurso de ódio e que utiliza extensas tecnologias e processos de moderação para implementá -los.
“Mantemos proativamente regras robustas contra discursos e comportamentos odiosos e removemos os projetos de lei que identificamos no relatório, muitos dos quais já eram proibidos antes de publicar o relatório”, disse o porta -voz Mashable em um e -mail.
Um carrapato, com a gravadora “Waffle House em Atlanta”, continha um ambiente de restaurante inundado por macacos que jogam melancia e usam baldes de frango frito. Foi visto mais de 622.000 vezes quando os casos de mídia tiveram uma captura de tela do vídeo.
Veja também:
O gerador de vídeo VEO 3 AI do Google é diferente de tudo o que você já viu. O mundo não está pronto.
Alguns comentaristas confirmaram os estereótipos racistas do vídeo. Uma pessoa disse: “Todos os seus caminhos … até o T …”
Outro Tiktok enviou de meados de junho, com pelo menos 835.000 visualizações, criou o aviso: “Perguntei à AI:” Experiência média da Spirit Airlines. “O vídeo também continha macacos e subiu por todo o avião.
A Media Matters disse que os vídeos que o identificaram tinham no máximo oito segundos, a duração dos clipes de texto para vídeo disponível ao público. Os vídeos também foram chamados de “veo” no canto ou usados hashtags, legendas ou nomes de usuário relacionados ao Veo 3 ou AI. Eles também incluem erros, distorções e texto impertinente que é comum para vídeos gerados pela IA.
A Media Matters publicou uma compilação dos clipes que foi identificada em sua própria conta no YouTube.
Velocidade de luz mashable
A Mashable entrou em contato com o Google para comentários no relatório da mídia, mas não recebeu uma resposta no momento da publicação.
Enquanto os casos de mídia focados em vídeos que apareceram no Tiktok, alguns dos mesmos clipes ofensivos também foram colocados no YouTube e no Instagram.
No entanto, os exemplos de que Mashable eram vistos tinham muito menos compromisso, que às vezes recebiam apenas algumas centenas de curtidas e um punhado de comentários, o que sugere que eles não eram vistos tão geralmente quanto o conteúdo que se tornou viral no Tiktok antes de ser removido.
Em geral, os vídeos foram feitos com o VEO 3 com conteúdo odioso ou racista, tornou -se popular em outras plataformas de mídia social, incluindo o Instagram.
Quando o VEO 3 foi lançado no final de maio, o editor de tecnologia Mashable, Timothy Beck Werth, descreveu seu realismo e “impressionante” e “assustador”. O Google disse a Werth que as garantias do VEO 3 contra informações incorretas incluem marcas de água digital e que as diretrizes de segurança da IA usam.
Os vídeos gerados pela IA gerados por questões de mídia incluem estereótipos anti-pretos sobre crime, preferências alimentares e pais ausentes. Algumas características da polícia com pessoas negras, incluindo uma em que um oficial branco atira um “preto” do carro. Esse clipe foi visto mais de 14 milhões de vezes.
Os clipes também divulgaram imagens racistas contra o povo asiático e do sul da Ásia e disseram a estereótipos anti -semitas, incluindo homens judeus que perseguem uma moeda de ouro.
Um clipe, visto um milhão de vezes, continha um magro que estava em frente a um crematório, vloggando enquanto ele estava em um campo de concentração nazista. “Bem, todos se divertem aqui”, diz o homem. Não está claro se o vídeo minuto -foi feito com o VEO 3.
Outro estilo de vídeos gerados pela IA parecia se concentrar no ato violento em relação aos imigrantes e manifestantes que os defendem.
Os vídeos parecem violar a política do discurso de ódio do Google. A política generativa de IA do Google proíbe os usuários a gerar ou distribuir conteúdo que facilita o ódio ou o discurso odioso; intimidação e abuso de outras pessoas, violência ou incentivo de violência.
Tiktok proíbe o discurso de ódio e o comportamento odioso que “atacar, ameaçar, desumanizar ou humilhar ou humilhar com base em seus atributos protegidos”.
Atualização: 3 de julho de 2025, 13:02 PDT A história foi atualizada com uma declaração de Tiktok.
