TO lançamento no X (antigo Twitter) de uma torrente de imagens geradas por IA de mulheres e crianças usando biquínis, algumas em poses sexualizadas ou com lesões, provocou, com razão, uma forte reação por parte dos políticos e reguladores do Reino Unido. O anúncio de segunda-feira de que X está sendo investigado foi a medida mais combativa do Ofcom desde que as principais disposições da Lei de Segurança Online entraram em vigor. Nenhuma das outras empresas que desafiou ou multou tem o alcance global ou a influência política do gigante das redes sociais de Elon Musk. Aconteça o que acontecer a seguir, este é um momento decisivo. O que está a ser definido é até que ponto algumas das empresas mais ricas do planeta estão sob controlo democrático.
Mas o anúncio é apenas um primeiro passo. O Ofcom não deu nenhuma indicação de quanto tempo levará sua investigação. Na sexta-feira, Downing Street descreveu como um insulto a decisão de limitar o uso do chatbot Grok AI de criação de imagens aos assinantes pagantes de X. O governo disse que isso equivalia a transformar a criação de deepfakes abusivos em um “serviço premium”.
Uma linguagem tão robusta era bem-vinda. O mesmo aconteceu com o anúncio da secretária de tecnologia, Liz Kendall, de que a prometida proibição da criação de imagens íntimas não consensuais entrará em vigor esta semana e que as aplicações de nudificação serão rapidamente banidas. No fim de semana, David Lammy afirmou que JD Vance compartilha a objeção do governo do Reino Unido a ferramentas que permitem aos usuários despir crianças em fotografias. Claramente, os ministros não querem uma briga com Donald Trump e prefeririam que os políticos dos EUA aceitassem um desafio às grandes tecnologias em vez do abuso baseado em imagens. Mas a oposição agressiva de Musk à regulamentação pode tornar inevitável uma batalha pública. Ele quer que Grok seja competitivo com o ChatGPT da OpenAI. E sexo vende.
O Reino Unido não está sozinho na tomada de posição. A Indonésia e a Malásia restringiram o acesso ao Grok em resposta à proliferação de deepfakes íntimos. O ministro da comunicação social da Alemanha, Wolfram Weimer, apelou à Comissão Europeia para agir contra a “industrialização do assédio sexual”. Mas como se espera que a OpenAI permita a criação de material erótico usando ChatGPT em breve, o medo é que as comportas da pornografia deepfake estejam prestes a se abrir. As graves preocupações sobre esta questão não se limitam à necessidade de verificação da idade para proteger as crianças. A maioria dos jovens de 18 anos do Reino Unido ainda está na escola. Eles e os adultos mais velhos também têm direito à proteção contra os danos causados por deepfakes íntimos. Os riscos da pornografia violenta em linha também poderão ser amplificados pela IA, se isso tornar esse material mais facilmente acessível.
As empresas tecnológicas nunca deveriam ter sido autorizadas a ditar o ritmo da mudança na medida em que o fizeram, lançando novas ferramentas antes do seu impacto ter sido discutido ou avaliado de forma independente. As leis de segurança online do Reino Unido estão entre as mais avançadas do mundo. Mas a mania das fotografias de biquíni revelou uma lacuna numa lei que é mais restritiva às imagens de pessoas em roupa interior do que em trajes de banho – mesmo quando o nível de cobertura é o mesmo.
Embora o acesso das crianças a aplicações de redes sociais seja uma questão separada da concepção de ferramentas de IA, não é surpresa que a questão dos limites de idade tenha sido levantada por políticos seniores de direita e de esquerda nos últimos dias. Os ministros devem tomar a iniciativa e decidir o que pensam sobre as crianças que utilizam a IA. Mas a prioridade imediata é Grok. O Ofcom latiu e deve mostrar que também pode morder.
-
Você tem uma opinião sobre as questões levantadas neste artigo? Se desejar enviar uma resposta de até 300 palavras por e-mail para ser considerada para publicação em nossa seção de cartas, clique aqui.
