As celebridades estão familiarizadas demais com o mundo das profundezas, o termo coloquial para vídeos gerados pela inteligência artificial que representam os atores e outros talentos de Hollywood fazendo ou dizendo falsamente dizendo coisas que nunca concordaram.
Para se proteger, atores como Steve Harvey, a agência de talentos da WME de Beverly Hills e estudos solicitaram a ajuda da Vermillio, uma empresa de Chicago que rastreia as famosas semelhanças digitais e propriedades intelectuais online. Dependendo do que seus clientes desejam, você pode eliminar o material.
Mas, como a tecnologia da IA continua a melhorar e se torna mais amplamente disponível para o público em geral, as pessoas comuns também estão sendo enganadas.
Agora, Vermillio diz que está oferecendo uma versão de seu serviço gratuitamente para todos.
A medida ocorre à medida que os defensores cada vez mais convincentes continuam a proliferar on -line, o que dificulta o monitoramento de sites de redes sociais. Em 2019, havia cerca de 18.000 profundos em todo o mundo e, este ano, houve aproximadamente 2 bilhões de criações generativas, disse o executivo e co -fundador da Vermillio, Dan Neely.
Isso deixa a média de Joes com um risco crescente de ser personificado on -line, com pouco recurso.
“Mal podemos esperar que os governos resolvam esse problema”, disse Neely. “Não podemos esperar que os legisladores resolvam esse problema. Mal podemos esperar que outras pessoas resolvam esse problema. Simplesmente dissemos que é a coisa certa, então devemos fazê -lo”.
Com esse movimento, a Vermillo está adotando um modelo clássico de “freemium”, que oferece um serviço parcial sem cobrança e vendas, de outra forma, para recursos adicionais.
É assim que funciona.
Usando sua tecnologia Traceid, a empresa marca o conteúdo problemático. Para clientes de pagamento, a Vermillio pode enviar solicitações de eliminação para sites como o YouTube ou o Instagram. Além disso, Vermillio diz que os clientes podem monetizar seus dados através da licença.
As pessoas que se registram na versão gratuita inserem informações sobre si mesmas, como seu nome, data de nascimento e mídia social, lida com lugares como o Instagram ou o YouTube.
Em seguida, o Vermillio usará essas informações para criar um “modelo de similaridade” para pesquisar na Internet os possíveis sinalizadores vermelhos que envolvem a identidade do usuário. Em seguida, Vermillio alerta o usuário sobre o que existe online. Por exemplo, se alguém criou uma conta falsa do Instagram desse usuário, o Vermillio o marcaria.
Os usuários são notificados desse tipo de conteúdo e podem decidir por si mesmos o que gostariam de permitir ou tomar medidas para eliminar. Se o usuário desejar que a Vermillio solicite eliminar conteúdo inadequado, os usuários devem atualizar para uma conta paga, que começa em US $ 10 por mês e inclui cinco aplicativos mensais de eliminação.
Embora muitas plataformas de mídia social dêem aos usuários para marcar o conteúdo problemático, Vermillio disse que é mais rápido e rápido do que tornar os usuários diretamente ao YouTube ou Instagram para corrigir a situação. Ele construiu uma rede de parceiros e pode aumentá -los tão rápido quanto uma hora, disse a empresa.
Os executivos da Vermillio disseram que alguns exemplos de profundas falsificações da vida real incluem vozes de celebridades usadas para arrecadar dinheiro para falsas organizações benéficas ou organizações terroristas e estudantes do ensino médio que criam uma pornografia falsa de seus colegas de classe.
“Isso está afetando as pessoas normais no sentido de que estão sendo enganadas por falsificações profundas, mas também está afetando os adolescentes, então as pessoas precisam entender onde estão”, disse Kathleen Grace, diretora da estratégia Vermillio. “Esta é uma maneira fácil de fazer isso.”
Embora os falsos perfis de mídia social existam há anos, “a IA generativa acabou de despejar gás”, disse Grace.
A empresa disse que centenas de pessoas usam serviços Vermillio, mas não especificaram números. No final do ano, a empresa espera ter milhares.
Neely disse que a empresa não é lucrativa e se recusou a compartilhar números de renda. A Time Magazine informou que as receitas da Vermillio Traceid aumentaram dez vezes de abril de 2023 a abril de 2024. A empresa ganha dinheiro com as versões pagas de seus serviços e licenças. A Vermillio levantou US $ 24 milhões em fundos.
As empresas e talentos de Hollywood estão navegando na inteligência artificial de maneiras diferentes.
Grupos como a Guild Sag-Affra de Arrenders estão pressionando para obter mais proteções estaduais e federais contra os DeepFakes. Algumas celebridades, como o ator secundário que ganham o Oscar, Jamie Lee Curtis, lutaram para obter um anúncio falso no Instagram, mostrando -a falsamente apoiando um produto odontológico.
A WME anunciou uma associação com Vermillio no ano passado.
“A escala de problemas é extraordinária; portanto, se você é um titular de direitos, tente entender quantos desses resultados do AIS são baseados ou usados meus dados, meu IP de alguma forma ou forma é uma grande necessidade”, disse Chris Jacquemin, chefe de estratégia digital da WME.
“Obviamente, eles mostraram que Traceid pode proteger as figuras públicas mais importantes e de alto nível do mundo”, acrescentou Jacquemin. “Abra -o em uma aplicação muito mais ampla, acho que é um grande avanço na democratização de como alguém pode começar a controlar sua semelhança em relação às plataformas de IA e IA”.
