De alguma forma, uma busca normal se transformou em um momento completo do Black Mirror. Pedi a Gemini que recomendasse um lugar para um encontro noturno e ele sugeriu um bistrô italiano.
Então ele disse algo que me pegou desprevenido. Gemini recomendou o risoto de trufas e mencionou casualmente que estive lá com Sarah na primavera passada e gostei.
Só há um problema. Sarah e eu terminamos há seis meses e não acabou bem.
O risoto está ligado a uma memória que prefiro esquecer, e absolutamente não quero que meu assistente de IA traga isso à tona.
Quero que Gêmeos esqueça tudo isso – Sarah, o risoto, tudo isso – e reinicie.
Mas quando tentei fazer isso, percebi que, embora Gêmeos seja bom em lembrar, ele não consegue se desapegar facilmente.
Relacionado
Gemini no Gmail está economizando meu tempo ao aperfeiçoar a arte do fantasma
Gêmeos está matando suas conversas e ninguém está falando sobre isso
Por que Gêmeos se lembra de coisas que você pensou que iria esquecer
Credit: Lucas Gouveia / Android Police | Prostock-studio / Shutterstock
Para entender por que não consegui tirar “Homens de Preto” de Sarah da memória de Gêmeos, precisamos olhar por baixo do capô.
Na conversa de marketing de IA, a palavra “memória” tem muito peso. Para um modelo de linguagem grande como o Gemini, a memória consiste em dois baldes de dados.
Memória ativa e o que você diz explicitamente a Gêmeos
O primeiro balde é o que o Google chama Informações salvas ou Instruções para Gêmeos. Esta é a memória explícita.
Você pode dizer ao Gêmeos: “Prefiro meu código em Python sem analogias” ou “Sempre presuma que estou escrevendo para um público de gerenciamento sênior”.
Essas informações são armazenadas em Configurações > Contexto pessoal > Suas instruções para Gemini. É transparente, facilmente editável e funciona como um guia para suas conversas.
Contexto passivo e o que Gemini extrai de sua conta
O segundo balde é a memória implícita, ou o Contexto pessoal. É aqui que Sarah mora.
Gemini tem acesso de leitura aos seus aplicativos conectados – Gmail, Google Fotos, Drive, Agenda e muito mais – em sua conta do Google.
Para remover memórias implícitas, acesse myactivity.google.com/product/gemini, percorra uma lista cronológica de tudo o que você já disse à IA e exclua a interação.
Se você conversa diariamente com Gêmeos, esta é uma tarefa quase impossível.
ChatGPT lida melhor com a memória pessoal do que Gemini
Credit: Lucas Gouveia / Android Police
No meio da minha luta para expurgar, decidi ver se a grama era mais verde do outro lado. Eu entrei no ChatGPT.
eu fui para Configurações > Personalização > Gerenciar memórias. Eu vi uma lista de fatos legível por humanos.
-
O usuário mora em Sydney.
-
O usuário prefere Python a JavaScript.
-
O usuário está planejando uma viagem de mochila às costas de duas semanas pela Europa.
A versão do ChatGPT era mais limpa e ainda tinha opção de busca de lembranças.
Como não quero assinar o GPT novamente porque estou satisfeito com meu acordo com o Google AI Pro, decidi usar o Bate-papo temporário recurso. É o modo de navegação anônima para IA.
O Google precisa de um botão para esquecer o mais rápido possível
Crédito: Lucas Gouveia/Polícia Android | sua foto / Shutterstock
Se os engenheiros do Google estão lendo isso (e sejamos honestos, a IA deles está), tenho uma proposta.
Precisamos de um recurso de interface do usuário que chamo de Flashy Thing Button, em homenagem ao neuralizador de Men in Black.
Aqui está como deve funcionar:
-
Em vez de excluir um bate-papo, deixe-me procurar uma (Entidade) nas configurações do Gemini.
-
O sistema deverá então mostrar-me o raio da explosão. Por exemplo, Gemini encontrou 423 e-mails, 120 fotos e 50 bate-papos relacionados a (Entidade).
-
Dê-me um botão para esquecer ou pelo menos bloquear consultas de recuperação relacionadas a esta (Entidade).
Se Gemini puder filtrar conteúdo NSFW ou discurso de ódio, poderá filtrar meu ex.
Excluir memórias de IA é mais difícil do que parece
Li alguns artigos de pesquisa sobre desaprendizagem de máquina (sim, isso existe). Aparentemente, ensinar uma rede neural a esquecer é um dos problemas mais difíceis da ciência da computação.
Quando um modelo aprende algo, ele ajusta bilhões de pesos (conexões entre neurônios). Como uma gota de corante misturada em um galão de água, você não consegue alcançar e selecionar as moléculas do corante.
Para realmente esquecer um fato no qual um modelo foi treinado, muitas vezes é necessário treinar novamente todo o modelo do zero, menos aquele dado. Isso custa milhões de dólares e leva meses.
No entanto, um simples recurso de bloqueio de palavras-chave ainda ajudaria muito sem qualquer retreinamento dispendioso.
O caso do direito de esquecer na IA pessoal
O esquecimento é um mecanismo de sobrevivência que nos ajuda a focar no presente por meio da generalização e da abstração.
Certamente não é uma falha. Esquecer é como crescemos. Como perdoamos. Como superamos o trauma.
A memória infinita da IA vai contra a essência do que significa ser humano.
Esta é uma das minhas citações favoritas do filme Brilho Eterno de uma Mente Sem Lembranças, citando Friedrich Nietzsche:
Bem-aventurados os esquecidos, pois eles levam a melhor até mesmo em seus erros.
Até que o Google nos forneça melhores ferramentas de gerenciamento de memória de IA, a maneira mais segura de usar a memória do Gemini é não usá-la, e mesmo isso traz suas próprias travessuras.
