A IA nos forçada em quase todas as facetas da vida, de telefones e aplicativos a mecanismos de pesquisa e até mesmo drive-throughs, por algum motivo. O fato de agora termos navegadores da Web com assistentes de IA e chatbots de reboco mostra que a maneira como algumas pessoas usam a Internet para pesquisar e consumir informações hoje, mesmo alguns anos atrás é muito diferente.
Mas as ferramentas de IA estão cada vez mais solicitando acesso bruto às suas informações pessoais sob o disfarce de que precisam trabalhar. Esse tipo de acesso não é normal, nem pode ser normalizado.
Não faz muito tempo, você estaria certo em se perguntar por que um aplicativo aparentemente inocente gratuito “lanterna” ou “calculadora” na App Store tentaria solicitar acesso aos seus contatos, fotos e até seus dados de localização real. Esses aplicativos podem não precisar desses dados para funcionar, mas solicitarão se acharem que podem ganhar alguns dólares ganhando dinheiro com seus dados.
Hoje em dia a IA não é tão diferente.
Pegue o mais recente navegador da Web, cometas, cometas, cometa, como exemplo. Com o Comet, os usuários podem encontrar respostas com o mecanismo de pesquisa de IA interno e as tarefas de rotina automatizadas, como resumir e-mails e eventos de calendário.
Em uma recente prática com o navegador descobriu o TechCrunch que, quando a perplexidade requer acesso à agenda do Google de um usuário, o navegador requer uma grande quantidade de permissões da conta do Google do usuário, incluindo a possibilidade de gerenciar conceitos e baixar e-mails, baixar seus contatos e até a opção de usar cópias.
O acesso solicitado do cometa à conta do Google de um usuário.Créditos da imagem:TechCrunch
A Pertlexity diz que muitos desses dados são armazenados localmente no seu dispositivo, mas você ainda concede os direitos da empresa de acessar e usar suas informações pessoais, inclusive para melhorar os modelos de IA para todos os outros.
A pertlexidade não é apenas para solicitar acesso aos seus dados. Há uma tendência de aplicativos de IA que prometem economizar tempo, por exemplo, transcrever suas chamadas ou reuniões de trabalho, mas que exigem um assistente de IA para obter acesso às suas conversas privadas em tempo real, suas agendas, contatos e muito mais. A Meta também testou os limites do que os aplicativos de IA podem solicitar acesso, incluindo o uso das fotos armazenadas no camerol de um usuário que ainda não foi enviado.
O presidente da Signal, Meredith Whittaker, comparou recentemente o uso de agentes e assistentes de IA para “colocar seu cérebro em um pote”. Whittaker explicou como alguns produtos de IA podem prometer fazer todos os tipos de tarefas diárias, como reservar uma mesa em um restaurante ou reservar um ingresso para um show. Mas, para fazer isso, a IA dirá que precisa de sua permissão para abrir seu navegador para carregar o site (o que significa que o acesso da IA pode salvar o armazenamento de senhas, favoritos e seu histórico de navegação), um cartão de crédito para fazer a reserva, seu calendário para abrir a data e também pode compartilhar seu contato com um amigo.
Existem sérios riscos de segurança e privacidade relacionados ao uso de assistentes de IA que confiam em seus dados. Ao permitir o acesso, você recebe direta e irreversivelmente os direitos a um instantâneo inteiro de suas informações mais pessoais a partir desse momento, a partir da caixa de entrada, mensagens e itens do calendário que datam e muito mais. Tudo isso para executar uma tarefa que o salva aparentemente
Você também concede à permissão do agente da IA para agir de forma autônoma em seu nome, para que você precise colocar uma enorme quantidade de confiança em uma tecnologia que já é suscetível a estar errada ou que a superfície é composta. O uso da IA também exige que você se relacione com as empresas de busca de lucro que desenvolvem esses produtos de IA, que dependem de seus dados para tentar fazer com que seus modelos de IA tenham melhor desempenho. Se algo der errado (e eles fazem isso, muito), é comum que as pessoas das empresas de IA vissem seus avisos privados para descobrir por que as coisas não funcionaram.
Do ponto de vista da segurança e privacidade, uma análise simples de custo-benefício da conexão de IA com seus dados mais pessoais simplesmente não vale a pena fornecer acesso às suas informações mais privadas. Todo aplicativo de IA que solicita esses níveis de energia deve tocar seus alarmes, assim como o aplicativo de lanterna que deseja saber sua localização a tempo a qualquer momento.
Dados os dados dos dados que você entrega às empresas de IA, pergunte -se se o que você obtém dele realmente vale a pena.
