O acesso ao Grok foi cortado para usuários na Indonésia e na Malásia devido a preocupações de que as salvaguardas do chatbot xAI eram ineficazes.
Ambos os países emitiram suspensões temporárias destinadas a permanecer em vigor até que a xAI implemente salvaguardas que cumpram as exigências dos reguladores.
“O governo vê a prática de deepfakes sexuais não consensuais como uma grave violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital”, escreveu o ministro das Comunicações e Assuntos Digitais da Indonésia, Meutya Hafid, num comunicado divulgado no sábado. A Indonésia tem leis abrangentes de censura na Internet que regem conteúdos considerados “obscenos”.
VEJA TAMBÉM:
Character.AI resolve ações judiciais relacionadas a mortes de adolescentes
A Malásia lançou recentemente uma investigação sobre o “uso indevido de ferramentas de inteligência artificial (IA) na plataforma X”, parte de uma onda de ações intervenientes tomadas pelos reguladores. Essa investigação seguiu-se a um aviso do ministério de TI indiano orientando X a tomar medidas imediatas sobre o alegado uso indevido de Grok. O aviso aludiu a possíveis violações da Lei de Tecnologia da Informação do país.
Velocidade da luz mashável
As autoridades francesas do Ministério Público de Paris e outros governos estrangeiros, incluindo o Reino Unido e uma investigação da UE, anunciaram investigações semelhantes sobre a tecnologia xAI e a sua regulamentação ao abrigo das leis relevantes de segurança online. O primeiro-ministro australiano, Anthony Albanese, também emitiu uma declaração sobre os problemas de deepfake de Grok, reiterando a decisão do país de proibir a mídia social para usuários menores de 16 anos. Além disso, o Centro Nacional de Exploração Sexual (NCOSE), com sede nos EUA, apelou ao Departamento de Justiça e à Comissão Federal de Comércio para investigar X sob as leis existentes sobre material de abuso sexual infantil (CSAM) e a recente Lei Take It Down.
A secretária de tecnologia do Reino Unido, Liz Kendall, disse recentemente que apoiaria o bloqueio total do X, caso o Escritório de Comunicações do Reino Unido (Ofcom) concluísse que a plataforma viola a Lei de Segurança Online. Kendall disse que espera que uma decisão seja tomada nos próximos dias.
Elon Musk, que já disse que os usuários deveriam enfrentar consequências por “carregar conteúdo ilegal” no X, respondeu às ameaças de proibição acusando o governo do Reino Unido de estar excessivamente ansioso para censurar a empresa. Em uma postagem no X, Musk escreveu: “Eles só querem suprimir a liberdade de expressão”. Musk também compartilhou vários posts X alegando que Grok está sendo alvo de funcionários do governo.
Uma investigação recente da Wired descobriu que as versões para desktop e aplicativos do Grok Imagine foram capazes de produzir material sexualmente violento e gráfico, representações de celebridades em cenários sexuais e potencial CSAM gerado por IA, apesar das salvaguardas integradas. O chatbot tem agora um histórico bem documentado de produção de deepfakes sexualizados, inclusive a pedido de usuários que pedem a Grok para “despir” indivíduos de forma não consensual em fotos enviadas publicamente.
Tópicos
Bem Social X/Twitter
