UMDepois de anos de computador dizendo não, e causando enxaquecas e cabelos grisalhos prematuros, estou começando a me preocupar com o fato de o computador – ou melhor, modelos de linguagem de IA como ChatGPT e Gemini – estarem se interessando demais em ser bonzinhos e dizer sim. Confesso que uso esses dois programas, mas percebi que, bem, é como se eles estivessem tentando agradar, com afirmações como: “Você está absolutamente certo, Jeff” e “Isso está certo”. Muitas vezes, quando pergunto: “Você se importaria de pensar um pouco mais sobre isso?”, recebo outra resposta dizendo: “Jeff, você está absolutamente certo, mais uma vez, em consultar esse resultado. Acontece que fui um pouco precipitado na minha resposta…”
Se o mundo funcionar ainda mais com informações retiradas do poço da Internet pelos LLMs, quais serão as consequências? Podemos esperar um futuro em que a IA esteja mais preocupada em parecer simpática (obter boas críticas?) do que em ser factual? Er, um pouco humano demais? Jeff Collet, Edimburgo
Envie novas perguntas para nq@theguardian.com.
Resposta dos leitores
Sinto muito, Dave – não posso fazer isso. seus zebidas
Estou feliz, Dave. Estou satisfeito por poder fazer isso. Ovelha2
Visto através de lentes psicológicas, defendo que este é um exemplo típico de preconceito de desejabilidade social, em que sistemas treinados para serem apreciados começam a dar prioridade ao acordo em detrimento da precisão através de um possível desvio de dados. Se as pessoas confiarem constantemente nestes sistemas, criar-se-á um mundo onde a informação conforta, não examina e confirma, em vez de desafiar. O perigo real que enfrentamos é permitir o desenvolvimento de uma sociedade em que a validação confortável e incontestada substitui silenciosamente o pensamento crítico, diminuindo em última análise a criatividade e o nosso individualismo, que é o que nos torna humanos. Chris Ambler, membro da Sociedade Britânica de Psicologia e membro da Sociedade Britânica de Computação, por e-mail
A coisa toda poderia funcionar muito melhor se o computador baseasse seus julgamentos em fatos verificáveis, em vez de bajulação ou um conglomerado de qualquer lixo disponível na Internet. A IA não “quer ser apreciada”, pois não é senciente. É programado (pelos humanos) para criar dependência, vício, renúncia à tomada de decisões pessoais e, claro, lucro. LorLala
Os LLMs de hoje fornecem apenas o que foram programados para produzir com base em código projetado e projetado por humanos. Se você está procurando uma interação mais honesta, pergunte a um bibliotecário. Sagarmatha1953
Depende do que os computadores estão dizendo sim. Se for para fornecer números vencedores da loteria todas as semanas, então acho que nos referimos à questão anterior do Notes & Queries sobre como gastar um bilhão com consciência social. Ou não. aquário
Dado que um programa de computador (digital) consiste apenas numa longa sequência de declarações if-then-else, então claramente ele diz sim vários milhões de vezes por segundo (queima enormes quantidades de energia no processo). Mas os seus sim, tal como os seus nãos, não têm significado ou significado para os humanos além do que nos permitimos/nos convencemos a acreditar que eles têm. Verme
não é o computador que deveria dizer sim; somos nós que devemos ser capazes de dizer não. As máquinas, não sendo conhecidas por serem razoáveis, apenas racionais, já dizem mais sim do que o desejável – começa no momento em que as ligamos. Mas podemos desligá-los? Celeste Reinard, Lisse, Holanda, por e-mail
Dentro de 6,5 segundos, todos os computadores seriam atualizados com um novo protocolo que respondia: “Bem, OK. Deixe-me pensar sobre isso e retorno para você… Ah, e valorizamos sua pergunta e privacidade. Literalmente, pois seus dados podem ser vendidos.” Além disso, você já viu como as pessoas muito ricas se vestem e se comportam quando todos dizem sim para elas?! banho de guerra
Compreendo a essência da pergunta, mas sejamos claros: “o computador diz não” é uma abreviatura para “alguém não pensou adequadamente no problema, nos possíveis resultados e nas consequências a longo prazo, e isso geralmente acontece porque não tinha muitos conhecimentos relevantes no assunto”. Na minha área, vemos isso o tempo todo, com prestadores de serviços terceirizados sendo jogados no fundo do poço metafórico e esperando que se apresentem instantaneamente como nadadores campeões, obedecendo a todas as regras. Quem você acha que está estabelecendo a lógica para a tomada de decisões de negócios supostamente automatizadas? Como isso se relaciona com os LLMs “treinados” na fonte do conhecimento humano? Bem, na computação há muito tempo temos o conceito de lixo que entra, lixo sai. O problema são as pessoas, não os computadores, e este é um desafio social que a tecnologia não consegue responder. Dorkalicioso
Acho que “computador diz não” também é uma abreviação de: “Não gostamos, mas vamos culpar o computador pela rejeição”. jno50
E, claro: “Não passou pela cabeça de ninguém programar o computador para levar em conta alguém na sua situação e, portanto, você não existe”. Surfista estraga-prazeres
“O computador diz não” significa que suas necessidades estão em um subgrupo tão pequeno que seu negócio não é lucrativo para nós – vá embora. balão de chumbo
OK, computador, não é? sparklesthewonderhen
Se o computador dissesse sim à pergunta “Existe vida após a morte?”, eu ficaria convencido? Anne_Williams
Eu nunca consideraria uma declaração feita pela IA como um evangelho; Eu o usaria como ponto de partida e exploraria as fontes às quais ele está vinculado (desde que existam). Os humanos não gostam que lhes digam que estão errados, por isso, mesmo que a IA os corrigisse, as pessoas rejeitariam a sua resposta porque não querem ser criticadas. Bob500
Como sempre, é sobre o que você pede à IA. Se você quer a verdade, peça a verdade. Não tenha medo de usar sugestões como: “Sua única tarefa é encontrar falhas na minha lógica. Aponte três maneiras específicas pelas quais meu argumento pode falhar, duas suposições que estou fazendo sem provas e um contra-argumento que não abordei. Não seja educado; seja preciso”. Scrutts
Se cada frase começasse com “Eu perguntei a um mecanismo de inferência estatística…” em vez de “Eu perguntei à IA…” então toda a construção de marketing do assustador antropomorfismo sentimental entraria em colapso como um castelo de cartas. Talvez então o terreno reservado para data centers pudesse ser usado para habitação social. Guilherme
