O chatbot de IA de Elon Musk, Grok, anunciou uma mudança na política que pretende oferecer mais proteções contra deepfakes sexualizados, pelo menos no X. A nova política surge no momento em que a Califórnia inicia uma investigação sobre o assunto, enquanto o Reino Unido ameaça bani-lo.
“Implementamos medidas tecnológicas para evitar que a conta Grok permita a edição de imagens de pessoas reais em roupas reveladoras, como biquínis”, dizia um comunicado da conta X Safety no X, um site irmão do Grok, postado pouco antes das 18h ET / 15h PT na quarta-feira. “Esta restrição se aplica a todos os usuários, incluindo assinantes pagos.”
A atualização do X Safety também afirmou que leva a sério o material de abuso sexual infantil (CSAM) e a nudez não consensual antes de reiterar outra mudança recente: a criação e edição de imagens por meio da conta Grok no X agora está limitada aos assinantes.
A conta X Safety também anunciou que agora tem a capacidade de bloquear geograficamente “todos os usuários para (sic) gerar imagens de pessoas reais em biquínis, roupas íntimas e trajes semelhantes por meio da conta Grok e no Grok in X nas jurisdições onde é ilegal”.
Este Tweet não está disponível no momento. Pode estar carregando ou foi removido.
Grok e X enfrentaram uma onda de escrutínio no ano novo, à medida que imagens sexualizadas e não consensuais de celebridades e crianças, instigadas por usuários e criadas por sua IA, proliferaram em X. O procurador-geral da Califórnia, Rob Bonta, exigiu que Grok e seu desenvolvedor xAI tomassem medidas para remover e prevenir tais imagens, ameaçando usar “todas as ferramentas à nossa disposição” para manter seus residentes seguros.
Velocidade da luz mashável
“Este material, que retrata mulheres e crianças nuas e em situações sexualmente explícitas, tem sido usado para assediar pessoas na Internet”, disse Bonta num comunicado divulgado na quarta-feira.
Enquanto isso, o chefe do xAI/X/Grok, Elon Musk, parecia desafiar os usuários a “quebrar a moderação de imagem do Grok” no mesmo dia em que a X Safety anunciou suas novas atualizações de segurança:
Este Tweet não está disponível no momento. Pode estar carregando ou foi removido.
VEJA TAMBÉM:
Proibição de Grok: as nações que consideram bloquear o chatbot de IA por conteúdo sexual não consensual
O primeiro-ministro britânico, Keir Starmer, ameaçou na segunda-feira tomar medidas contra Musk, dizendo “se X não puder controlar Grok, nós o faremos”, de acordo com uma reportagem da BBC. A Indonésia e a Malásia já bloquearam o acesso ao Grok neste fim de semana.
Os políticos também visaram Grok e X, com três senadores pedindo à Apple que removesse os serviços de sua loja de aplicativos. Os aplicativos ainda estão disponíveis na app store da Apple na noite de quarta-feira.
As recentes alterações da X à sua política podem reflectir um reconhecimento por parte dos líderes da empresa de que não está protegida pela Secção 230 da Lei de Decência nas Comunicações dos EUA, de 30 anos, de acordo com a BBC. A seção 230 protege as empresas de tecnologia de ações judiciais relacionadas a conteúdo gerado por usuários, mas imagens e outros conteúdos criados pela própria tecnologia de um aplicativo podem ser menos imunes a essa imunidade legal.
