Uma plataforma que promete “conversas picantes de IA” deixou quase dois milhões de imagens e vídeos, muitos deles mostrando cidadãos particulares, expostos ao público, informou a 404 Media.
Secret Desires, um chatbot erótico e gerador de imagens de IA, deixou recipientes de armazenamento em nuvem com fotos, nomes de mulheres e outras informações pessoais, como locais de trabalho e universidades, vulneráveis, de acordo com a 404 Media.
Este “vazamento massivo” é o caso mais recente de pessoas que usam ferramentas generativas de IA para transformar fotos inocentes em deepfakes explícitos e não consensuais.
Aplicativos de conexão para todos
AdultFriendFinder
–
escolha dos leitores para conexões casuais
Inflamável
–
melhor escolha para encontrar conexões
Dobradiça
–
escolha popular para encontros regulares
Produtos disponíveis para compra através de links de afiliados. Se você comprar algo por meio de links em nosso site, o Mashable poderá ganhar uma comissão de afiliado.
VEJA TAMBÉM:
A pornografia com IA é o próximo horizonte do prazer próprio – e é ética?
Algumas das fotos e vídeos foram tirados de influenciadores reais, figuras públicas e mulheres não famosas. A última categoria inclui capturas de tela do Snapchat e pelo menos uma foto do anuário. Algumas das mídias expostas incluíam imagens de IA geradas por usuários, como aquelas criadas com um recurso “faceswap” agora extinto, que Secret Desires removeu no início deste ano.
Relatório de tendências do Mashable
Assim como Character.AI ou Replika, Secret Desires permite que os usuários criem personas de IA e conversem com elas. Embora o conteúdo pornográfico não seja permitido no Character.AI (e só seja permitido para alguns usuários do Replika), Secret Desires afirma que “fornece intimidade e conexão ilimitadas” em seu Guia de início rápido.
Conforme descoberto pela 404 Media, as mídias geradas por IA encontradas nos contêineres de armazenamento vulneráveis eram em sua maioria explícitas. Alguns dos nomes dos arquivos incluíam termos como “17 anos”.
A empresa não respondeu ao pedido de comentário da 404 Media, mas os arquivos ficaram inacessíveis cerca de uma hora após o contato da publicação.
Durante anos, mulheres e meninas foram vítimas de deepfakes explícitos, que são conteúdos gerados por IA. Muitos deepfakes são imagens de mulheres “trocadas de rosto” em vídeos pornográficos. Isso se aplica a celebridades como Taylor Swift, bem como a mulheres que não são famosas. Isto também acontece com as meninas, criando material online de abuso sexual infantil.
Este ano, o Congresso aprovou a Lei Take It Down para combater imagens deepfake. A lei revelou-se controversa, uma vez que vários grupos de defesa da liberdade de expressão afirmam que ela pode ser usada como arma contra material explícito consensual ou discurso político.
Tópicos
Inteligência artificial
