A Meta processou o fabricante de um popular aplicativo “Nudify” da AI, Crush AI, que se diz ter realizado milhares de anúncios nas meta plataformas. Além do processo, a Meta diz que está tomando novas medidas para combater outros aplicativos, como a AI da Crush.
Em um processo que foi trazido em Hong Kong, a Meta Joy Timeline HK, a entidade por trás da AI Crush, tentou contornar o processo de avaliação da empresa para distribuir anúncios para os serviços da AI Nudify. A Meta disse em uma postagem no blog que ele removeu repetidamente anúncios da entidade antes de violar sua política, mas afirma que a Linha do tempo da Joy HK continuou a fazer anúncios extras.
A IA Crush, que usa IA generativa para fazer imagens falsas e sexualmente explícitas de pessoas reais sem sua permissão, teria realizado mais de 8.000 anúncios para seus serviços de “exclusão de IA” na meta plataforma nas duas primeiras semanas de 2025, de acordo com o autor do boletim informativo Falsified, Alexios Mantzarlis. Em um relatório em janeiro, Mantzarlis alegou que os sites da Crush AI receberam cerca de 90% de seu tráfego do Facebook ou Instagram e que ele marcou vários desses sites para a Meta.
A IA do CRITA evitou os processos de meta publicidade, definindo dezenas de contas de anunciantes e geralmente alteradas nomes de domínio. Muitas das contas de anunciantes da AI, de acordo com Mantzarlis, foram chamadas de “roupas de Germ Annyone”, seguidas por várias figuras. A certa altura, o Crush AI tinha até uma página no Facebook que promoveu o serviço.
O Facebook e o Instagram dificilmente são as únicas plataformas que têm a ver com esses desafios. Como empresas de mídia social como X e Meta Race para adicionar IA generativa aos seus aplicativos, elas também têm dificuldade em moderar como as ferramentas de IA podem tornar suas plataformas inseguras para os usuários, especialmente menores.
Os pesquisadores descobriram que os links para aplicativos de IA em 2024 em plataformas como X e Reddit, e no YouTube aumentaram, e no YouTube milhões de pessoas foram relatadas para esses aplicativos. Em resposta a esse problema crescente, as pesquisas de Meta e Tiktok estão procurando por aplicativos Ai Nudify, mas esses serviços de suas plataformas estão completamente fora de sua plataforma, provou ser um desafio.
Em uma postagem no blog, a Meta disse que desenvolveu novas tecnologias para identificar anúncios específicos para a AI Nudify ou para despir “mesmo quando os próprios anúncios não contêm nudez”. A empresa disse que agora usa a tecnologia correspondente para encontrar e remover anúncios copycat mais rapidamente e expandiu a lista de termos, sentenças e emoji que foram marcados por seus sistemas.
A Meta também disse que também aplica as táticas que tradicionalmente usava para interromper as redes de maus atores nessas novas redes de contas com anúncios de serviços de NUDIFY AI. Desde o início de 2025, disse Meta, perturbou quatro redes separadas que promovem esses serviços.
Além de seus aplicativos, a empresa disse que compartilhará informações sobre os aplicativos AI NUDIFY por meio do Programa de Lanternas de Coalizão Tech, um esforço coletivo entre Google, Meta, Snap e outras empresas para impedir a exploração sexual on -line de crianças. A Meta diz que desde março produziu mais de 3.800 URLs exclusivos com essa rede.
No campo da frente legislativa, a Meta disse que “a legislação continuaria apoiando que os pais permitem supervisionar os downloads de aplicativos de seus adolescentes”. A empresa apoiou anteriormente a Lei dos EUA que derruba e disse que agora está trabalhando com os legisladores para implementá -la.
