Um executivo da Pesquisa Google disse que uma das maiores oportunidades da empresa em IA reside na capacidade de conhecer melhor o usuário e personalizar suas respostas.
A promessa é que a IA seja útil exclusivamente porque conhece você. Mas o risco é que a IA pareça mais vigilância do que serviço.
Em um episódio recente do podcast Limitless, Robby Stein, vice-presidente de produto da Pesquisa Google, explicou que a IA do Google tende a responder a mais consultas que buscam aconselhamento ou aquelas em que o usuário está procurando recomendações – e esses tipos de perguntas têm maior probabilidade de se beneficiar de respostas mais subjetivas.
“Achamos que há uma grande oportunidade para nossa IA conhecê-lo melhor e ser útil de maneira única por causa desse conhecimento”, disse Stein na entrevista. “E uma das coisas sobre as quais conversamos na I/O (conferência de desenvolvedores do Google) foi como a IA pode entender melhor você por meio de serviços conectados como o Gmail.”
O Google vem integrando IA em seus aplicativos há algum tempo, desde quando Gemini ainda era conhecido como Bard. Mais recentemente, começou a extrair dados pessoais para outro produto de IA, o Gemini Deep Research. E o Gemini agora está integrado aos aplicativos do Google Workspace, como Gmail, Agenda e Drive.
Mas à medida que o Google integra mais dados pessoais em sua IA – abrangendo e-mails, documentos, fotos, histórico de localização e comportamento de navegação – a linha entre um assistente útil e um intrusivo torna-se cada vez mais tênue. E, ao contrário dos serviços opcionais, evitar a recolha de dados pela Google pode tornar-se mais difícil à medida que a IA se torna central nos seus produtos.
A proposta do Google é que essa personalização profunda torna a IA muito mais útil. A ideia é que a tecnologia de IA do Google possa aprender com as interações do usuário nos vários serviços do Google e, em seguida, usar esse entendimento para fazer recomendações mais personalizadas. Por exemplo, se souber que um utilizador gosta de determinados produtos ou marcas, as respostas da IA poderão favorecer aqueles nas suas recomendações.
Isso, disse Stein, seria “muito mais útil” do que apenas mostrar aos usuários uma lista mais genérica dos produtos mais vendidos em uma determinada categoria. “Essa é, eu acho, a visão – de construir algo que possa ser realmente útil para você, especificamente.”
Essa ideia não é muito diferente de como os “Outros” do programa de sucesso da Apple TV, Pluribus, engoliram o conhecimento do mundo, incluindo detalhes íntimos sobre os indivíduos. Quando o sistema interage com a protagonista do programa, Carol, ele usa esses dados para personalizar tudo: preparar suas refeições favoritas, adotar um rosto familiar para lidar com suas comunicações com ela e, de outra forma, antecipar suas necessidades.
Mas Carol não acha o tipo de resposta personalizada; ela os considera invasivos. Ela nunca consentiu em compartilhar seus dados com a mente coletiva, mas ela a conhece melhor do que ela.
Da mesma forma, parece que evitar os métodos de devoração de dados do Google ficará cada vez mais difícil na era da IA, e se o Google não conseguir o equilíbrio certo, os resultados poderão parecer mais assustadores do que úteis.
(Para ser claro: o Google permite que você controle os aplicativos que o Gemini usa para tornar sua IA mais informada sobre você especificamente – está em “Aplicativos conectados” nas configurações do Gemini.)
Se você compartilhar dados de aplicativos com o Gemini, o Google afirma que salvará e usará esses dados de acordo com a política de privacidade do Gemini. E essa política lembra aos usuários que revisores humanos podem ler alguns de seus dados e não “inserir informações confidenciais que você não gostaria que um revisor visse ou que o Google usasse para melhorar seus serviços”.
Mas à medida que mais dados são ingeridos pela própria mente coletiva do Google, é fácil ver como a IA poderia tornar a privacidade dos dados uma área mais cinzenta.
O Google, no entanto, acredita ter uma espécie de solução.
Stein diz que o Google indicará quando suas respostas de IA serão personalizadas.
“Acho que as pessoas querem entender intuitivamente quando estão sendo personalizadas – quando a informação é feita para elas, versus quando (é) algo que todos veriam se fizessem essa pergunta”, disse ele.
Stein observou também que o Google poderia enviar uma notificação push aos usuários quando um produto que eles estavam considerando após vários dias de pesquisa on-line se tornasse disponível ou estivesse à venda.
“Existem todas essas maneiras pelas quais o Google agora, em todos os modos, em diferentes aspectos da sua vida, (está) sendo incrivelmente útil para você…” ele disse. “E acho que é mais assim que penso no futuro da pesquisa do que qualquer recurso específico ou formato único.”
