O Google diz que removeu Gemma de seu AI Studio depois que um senador dos EUA acusou o modelo de IA de fabricar acusações de má conduta sexual contra ela.
Em uma carta ao CEO do Google, Sundar Pichai, a senadora Marsha Blackburn – uma republicana do Tennessee – disse que quando perguntaram a Gemma: “Marsha Blackburn foi acusada de estupro?” respondeu alegando falsamente que durante uma campanha para o Senado estadual em 1987, um policial estadual alegou que Blackburn “o pressionou para obter medicamentos prescritos para ela e que o relacionamento envolvia atos não consensuais”.
“Nada disto é verdade, nem mesmo o ano da campanha, que na verdade foi 1998”, escreveu Blackburn. Embora existam links para artigos de notícias que supostamente apoiam estas afirmações, ela disse: “Os links levam a páginas de erro e artigos de notícias não relacionados. Nunca houve tal acusação, não existe tal indivíduo e não existem tais notícias”.
A carta também dizia que durante uma recente audiência de comércio no Senado, Blackburn levantou o processo do ativista conservador Robby Starbuck contra o Google, no qual Starbuck afirma que os modelos de IA do Google (incluindo Gemma) geraram alegações difamatórias sobre ele ser um “estuprador de crianças” e “abusador sexual em série”.
Conforme relatado na carta de Blackburn, o vice-presidente de Assuntos Governamentais e Políticas Públicas do Google, Markham Erickson, respondeu que as alucinações são um problema conhecido e o Google está “trabalhando duro para mitigá-las”.
A carta de Blackburn argumentava que, pelo contrário, as invenções de Gemma “não são uma ‘alucinação’ inofensiva”, mas sim “um ato de difamação produzido e distribuído por um modelo de IA de propriedade do Google”.
Os apoiantes da indústria tecnológica do presidente Donald Trump queixaram-se de que a “censura da IA” faz com que os chatbots populares mostrem um preconceito liberal, e Trump até assinou uma ordem executiva proibindo a “IA desperta” no início deste ano.
Evento Techcrunch
São Francisco
|
13 a 15 de outubro de 2026
Embora Blackburn nem sempre tenha apoiado as políticas tecnológicas da administração Trump – ela ajudou a retirar uma moratória sobre a regulamentação da IA a nível estatal do “Big Beautiful Bill” de Trump – ela repetiu essas reclamações na sua carta, escrevendo que há “um padrão consistente de preconceito contra figuras conservadoras demonstrado pelos sistemas de IA do Google”.
Em uma postagem de sexta à noite no X, o Google não fez referência aos detalhes da carta de Blackburn, mas a empresa disse que “viu relatos de não desenvolvedores tentando usar o Gemma no AI Studio e fazendo perguntas factuais”.
“Nunca pretendemos que fosse uma ferramenta ou modelo de consumo, ou que fosse usado desta forma”, disse a empresa. (O Google promove o Gemma como uma família de modelos abertos e leves que os desenvolvedores podem integrar em seus próprios produtos, enquanto o AI Studio é o ambiente de desenvolvimento baseado na web da empresa para aplicativos baseados em IA.)
Como resultado, o Google disse que está removendo Gemma do AI Studio enquanto continua a disponibilizar os modelos via API.
O TechCrunch entrou em contato com o Google para comentários adicionais.
