Ilustração: Mathieu Labrecque/The Guardian
Depois de publicar meu terceiro livro no início de abril, continuei a encontrar as manchetes que me fizeram sentir como o protagonista de um episódio de Black Mirror. “Vauhini Vara consultou o ChatGPT para ajudar a fazer seu novo livro ‘pesquisas'”, leu um deles. “Para contar sua própria história, esse escritor de romance altamente elogiado se transformou em chatgpt”, disse outra. “Vauhini Vara investiga a independência com a ajuda do ChatGPT”, um terço.
As publicações que descrevem as pesquisas dessa maneira foram conhecidas e baseadas em fatos. Mas suas descrições do meu livro – e do papel do ChatGPT nele – não combinavam com minha própria palestra. Era verdade que eu havia colocado minhas conversas de bate -papo no livro, mas meu objetivo era crítica, não cooperação. Em entrevistas e eventos públicos, eu havia avisado repetidamente contra o uso de grandes modelos de idiomas, como os por trás do ChatGPT para obter ajuda com a auto -expressão. Esses líderes entenderam mal o que eu havia escrito? Eu fiz?
No livro, descrevo como as grandes empresas de tecnologia usaram a linguagem humana para seu lucro. Deixamos que isso aconteça, afirmo, porque também nos beneficiamos do uso dos produtos. É uma dinâmica que nos torna cúmplices no acúmulo de grande tecnologia sobre riqueza e poder: somos vítimas e beneficiários. Descrevo essa cumplicidade, mas também entro nos meus próprios arquivos da Internet: minhas tarefas de pesquisa do Google, meus produtores da Amazon e, sim, meus diálogos de chatgpt.
A política educada da IA
O livro começa com a epigráfica de Audre Lorde e Ngũgĩ Wa Thiong’o, que evocam o poder político da linguagem, seguido pelo início de uma conversa em que peço que o Chatgpt responda à minha carta. A justaposição é intencional: eu estava planejando obter seus comentários sobre uma série de capítulos que escrevi para ver como o exercício revelaria a política do meu idioma e do ChatGPT.
Meu tom era educado, até tímido: “Estou nervoso”, afirmei. O Openai, a empresa por trás do ChatGPT, nos diz que o produto foi construído para ser bom em seguir as instruções e o que a pesquisa sugere que o ChatGPT é mais obediente se agirmos bem por isso. Eu trouxe meus próprios pedidos de boas maneiras. Quando me elogiou, agradeci docemente; Quando apontei seus erros reais, mantive uma opinião fora do meu tom.
O ChatGPT também foi educado por design. As pessoas geralmente descrevem a saída textual de chatbots como “desmaios” ou “genéricos” – o equivalente linguístico de um edifício de escritórios bege. Os produtos do OpenAI são construídos para “soar como um colega”, como diz o Openai, com a ajuda da linguagem que “educadamente”, “empática”, “gentil”, “racionalmente otimista” e “fascinante” soariam, ao lado de outras qualidades. O OpenAI descreve essas estratégias como ajudar seus produtos a parecer “profissionais” e “acessíveis”. Isso parece estar vinculado ao fato de nos sentirmos seguros: “A personalidade padrão do ChatGPT tem uma grande influência na maneira como você experimenta e confia”, explicou recentemente o OpenAI em um post no blog em que a recuperação foi explicada a partir de uma atualização que o Sycofhantic, acionado por chatgpt havia feito.
A confiança é um desafio para as empresas de inteligência artificial (IA), em parte porque seus produtos produzem regularmente mentiras e normas culturais sexistas, racistas, racistas e dirigidas por corridas. Embora as empresas estejam trabalhando nesses problemas, elas continuam a existir: o OpenAI descobriu que os sistemas mais recentes geram erros com um ritmo mais rápido do que seu sistema anterior. No livro que escrevi sobre as imprecisões e preconceitos e também demonstrei com os produtos. Quando incentivei o criador da Microsoft Bing Image a produzir uma foto de engenheiros e viajantes descobertos no espaço, isso me deu um elenco completamente masculino de personagens; Quando meu pai pediu a Chatgpt para editar sua escrita, ele transferiu seu inglês indiano perfeitamente correto para o inglês americano. Eles não eram flukes. Pesquisas sugerem que ambas as tendências são generalizadas.
Nos meus próprios diários de bate -papo, eu queria determinar como o verniz da neutralidade colegial do produto poderia ser odiado em absorver reações falsas ou tendenciosas sem muito envolvimento crítico. Com o tempo, o ChatGpt parecia me orientar a escrever um livro mais positivo sobre a Big Tech – incluindo editar minha descrição do CEO da Openai, Sam Altman, para chamá -lo de “um visionário e um pragmaticus”. Não conheço pesquisas se o ChatGPT tende a favorecer a Big Tech, Openai ou Altman, e só posso adivinhar por que parecia assim em nossa conversa. O OpenAI afirma explicitamente que seus produtos não devem tentar influenciar o pensamento dos usuários. Quando perguntei ao ChatGPT sobre alguns dos problemas, os preconceitos responsabilizaram os dados de treinamento – embora eu suspeite que minhas perguntas comprovadamente líderes também tenham desempenhado um papel.
Quando perguntei a Chatgpt sobre sua retórica, ele respondeu: “A maneira como me comunico foi projetada para promover a confiança e a confiança em minhas respostas, que podem ser úteis e potencialmente enganosas”.
No entanto, no final do diálogo, o ChatGPT apresentou meu livro no qual Altman me diz: “A IA pode nos dar ferramentas para explorar nossa humanidade de maneiras que nunca pensamos. Cabe a nós usá -los com sabedoria”. Altman nunca me disse isso, embora segue um ponto de discussão comum que enfatize nossas responsabilidades em comparação com as deficiências dos produtos de IA.
Eu senti que meu argumento foi feito: o epílogo de Chatgpt era falso e tendencioso. Eu deixei o bate -papo graciosamente. Eu tinha ganho – pensei.
Eu pensei ter criticado a máquina. As manchetes me descreveram quando trabalhava com isso
Então veio as manchetes (e, em alguns casos, artigos ou avaliações que se referem ao meu uso do ChatGPT como uma ferramenta para a auto -expressão). As pessoas também perguntaram sobre minha colaboração tão chamada com o ChatGPT em entrevistas e em apresentações públicas. Toda vez que rejeitei o ponto de partida, referindo -se à definição de Dicionário de Cambridge de uma colaboração: “A situação de duas ou mais pessoas que trabalham juntas para criar ou alcançar o mesmo”. Não importa o quão humano sua retórica parecia, Chatgpt não era uma pessoa, não conseguiu trabalhar comigo ou compartilhar meus objetivos.
O Openai naturalmente tem seus próprios objetivos. Entre eles, enfatiza querer construir a IA que “beneficia toda a humanidade”. Mas enquanto a empresa é controlada por uma organização sem fins lucrativos com essa missão, seus financiadores ainda estão procurando um retorno de seu investimento. É provável que as pessoas usem ainda mais produtos, como o ChatGPT do que já são – uma meta mais fácil de alcançar como pessoas que veem produtos como funcionários confiáveis. No ano passado, Altman Ai se viu se comportando como um “colega super compassivo que sabe absolutamente tudo sobre minha vida inteira”. Em uma entrevista do TED em abril, ele sugeriu que isso poderia funcionar em nível social: “Acho que a IA poderia nos ajudar a ser mais sábios e tomar melhores decisões sobre administração coletiva do que antes”. Neste mês, durante uma audiência do Senado dos EUA, ele testemunhou sobre os benefícios hipotéticos de ter “um agente no seu bolso totalmente integrado ao governo dos EUA”.
Lendo as manchetes que Altman parecia ecoar, meu primeiro instinto foi culpar a sede dos escritores de algo sexy para prender os leitores (ou pelo menos os algoritmos que determinam cada vez mais o que os leitores vêem). Meu segundo instinto foi culpar as empresas por trás dos algoritmos, incluindo as empresas de IA cujos chatbots foram treinados em material publicado. Quando pedi ao Chatgpt para livros recentes conhecidos que são ‘colaborações de IA’, ele chamou o meu, afirmando algumas das críticas cujas manchetes de jornal hinderam.
Voltei ao meu livro para ver se poderia me referir acidentalmente à cooperação. No começo, parecia que eu tinha. Encontrei 30 autoridades de palavras como “colaboração” e “colaboração”. Destes, no entanto, 25 vieram do ChatGPT, nos diálogos intersticiais, que frequentemente descreviam o relacionamento entre pessoas e produtos de IA. Nenhum dos outros cinco foi referências à AI “Collaboration”, exceto quando citei ou irônico: perguntei sobre o destino que o ChatGPT esperava para “escritores que se recusam a trabalhar com a IA”.
Eu era cúmplice nas empresas de IA?
Mas importava que eu não era quem usava o termo? Eu pensei que aqueles que falam sobre minha “colaboração” do ChatGPT podem ter recebido a idéia do meu livro, mesmo que eu não tivesse dito isso lá. O que me fez tão certo que o único efeito de imprimir a retórica do chatgpt seria revelar seu traidor? Como eu não achava que alguns leitores poderiam estar convencidos pela posição de chatgpt? Talvez meu livro tenha sido mais uma colaboração do que eu tinha percebido – não porque um produto de IA me ajudou a me expressar, mas porque eu havia ajudado as empresas por trás desses produtos com seus próprios objetivos. Meu livro diz respeito a como aqueles que estão no poder usam nosso idioma em sua vantagem – e sobre a nossa cumplicidade nisso. Agora parecia que a vida pública do meu livro estava enredada nessa dinâmica. Foi uma experiência de arrecadar cabelos, mas eu deveria ter esperado: é claro que não havia razão para que meu livro fosse isento de uma exploração que tomou em todo o mundo.
E, no entanto, meu livro também era sobre o jeito que podemos – e fazer a linguagem – para servir nossos próprios propósitos, independentemente e de fato, diferente dos objetivos de poderosos. While chatgpt suggested that I conclude with a quote from Altman, instead I have chosen Ursula K le Guin: “We live in capitalism. The power of it seems inescapable – but therefore, the divine law of kings. Every human power can be resisted and changed by people. Resistance and change starts in art, the art of art, the art of art, the art of art, the art of art, the art of art, the art of art, the art of art, the art of A arte da arte, a arte da arte, a arte da arte, a arte da arte. Como podemos financiar e construir tecnologias para que elas atendam às nossas necessidades e desejos sem estar conectados à exploração?
Eu pensei que minha luta retórica do poder contra a Big Tech havia começado e terminou nas páginas do meu livro. Claramente não tinha. Se as manchetes que eu li representassem o fim real da batalha, isso significaria que eu havia perdido. E, no entanto, logo comecei a ouvir os leitores que disseram que o livro os tornara cúmplices na ascensão da grande tecnologia e me mudou para agir em resposta a esse sentimento. Vários cancelaram suas assinaturas do Amazon Prime; Eles pararam de pedir conselhos pessoais íntimos da ChatGPT. A batalha está em andamento. É necessária cooperação – entre as pessoas.
