O presidente Donald Trump diz que “Ai acordou” é uma ameaça urgente à verdade e aos pensamentos independentes. Os críticos dizem que seu plano de combater a IA chamado é uma ameaça à liberdade de expressão e possivelmente viola a Primeira Emenda.
O termo produziu um novo significado desde que o presidente explicou o plano de ação da IA da Casa Branca na quarta-feira, 23 de julho, parte de um esforço para garantir o domínio americano no setor de inteligência artificial em rápido crescimento.
O plano de ação da IA informa um trio de ordens executivas:
O Plano de Ação verifica alguns itens da grande lista de desejos técnicos e empresta francamente como “buscando a verdade” diretamente de líderes de IA, como Elon Musk. O comando executivo sobre a IA também posiciona modelos com ótima linguagem, com supostas tendências liberais como um novo bicho -papão direito.
Então, o que é acordado ai? Não é um termo fácil de definir e a resposta depende inteiramente de quem você pergunta. Em resposta às perguntas de Mashable, um porta -voz da Casa Branca nos apontou para esse idioma em uma ficha informativa que foi emitida ao lado da ordem da IA acordada: “Os resultados da IA preparados impulsionados por ideologias como diversidade, justiça e inclusão (DEI) à custa da precisão”.
O que é acordado ai? Desembalando a definição da Casa Branca
Interessante é que, além do título, o texto do pedido de versão Ai Woke AI não usa realmente esse termo. E embora a ordem contenha uma parte da definição, o termo em si não é claramente definido lá. (É possível que “acordado ai” seja simplesmente um conceito muito vago para escrever em documentos legais reais.) No entanto, o de Witte Huis, publicado pela Casa Branca, afirma que os líderes do governo só precisam comprar “grandes modelos de idiomas (LLMs) que aderem a” a IA ignorante que está na ordem: Verdadeira: “Verdadeiro:” Verdadeiro:
E aqui está como a folha de faculdades “buscador de verdade” e “neutralidade ideológica” define:
Procurar a verdade significa que os LLMs serão verdadeiros e priorizarão a precisão histórica, a pesquisa e a objetividade científicas e reconhecerão a incerteza onde informações confiáveis são incompletas ou contraditórias.
A neutralidade ideológica significa que as LLMs serão ferramentas neutras e não paradas que não manipulam reações em favor de dogmas ideológicos, como DEI, e que os desenvolvedores não codificam o tempo parcial ou os julgamentos ideológicos na produção de um LLM, a menos que esses julgamentos sejam solicitados ou facilmente acessíveis para o usuário final.
Parece que a Casa Branca despertou a IA como LLMs que não estão procurando uma verdade suficiente ou são ideologicamente neutros. A ordem executiva também evoca exemplos específicos de possíveis viés, incluindo “teoria crítica das corridas, transgenderismo, viés inconsciente, interseccionalidade e racismo sistêmico”. É claro que existe uma disputa de cultura sobre se esses sujeitos (incluindo ‘transgenderismo’, que não é um termo aceito por pessoas trans) são inerentemente tendenciosas.
De importância crucial, as empresas de IA que não atendem aos espinhos de decisões da Casa Branca podem ser trancados de contratos federais lucrativos. E como a sequência de crenças políticas liberais populares define – para não mencionar todo um grupo de pessoas – como inerentemente tendencioso, as empresas de IA podem estar sob pressão para ajustar a entrada e os resultados de seus modelos.
Velocidade de luz mashable
O governo Trump falou um grande jogo sobre liberdade de expressão, mas os críticos do plano de ação dizem que essa ordem em si é uma grande ameaça à liberdade de expressão.
“A parte do Plano de Ação com o título ‘Certifique-se de que a AI da Frontier proteja a liberdade de expressão e os valores americanos’ parecem ser motivados pelo desejo de determinar quais informações estão disponíveis por meio da AI-Tools e podem propor ações que violariam a Primeira Emenda”, disse Kit Walsh, diretor da IA e acesso à fronteira eletrônica. “A IA generativa implica os primeiros direitos de mudança dos usuários para receber informações e geralmente também reflete escolhas expressivas protegidas das muitas pessoas envolvidas na formação das mensagens que a IA escreve. O governo não pode mais determinar quais idéias são transferidas via IA do que por jornais ou sites”.
“O governo tem mais margem de manobra para decidir quais serviços ele está comprando para seu próprio uso, mas pode não usar esse poder para punir um editor para disponibilizar os serviços de IA aquelas idéias que o governo não gosta”, disse Walsh.
É um verdadeiro problema acordado?
O presidente Trump disse que os EUA “o que é necessário” para vencer a corrida da IA.
Crédito: Kevin Dietsch/Getty Images
Novamente, a resposta depende inteiramente de onde você cai ao longo da linha de erro político, e o termo “acordado” tornou -se controverso nos últimos anos.
Esse adjetivo se originou na comunidade negra, onde descreveu pessoas com uma consciência política sobre preconceito racial e injustiça. Mais recentemente, muitos conservadores começaram a usar a palavra como uma mancha, um interesse para os chamados liberais politicamente corretos.
Na realidade, liberais e conservadores estão preocupados com o viés em modelos com grande linguagem.
Em novembro de 2024, a Heritage Foundation, um grupo jurídico conservador, organizou um painel no YouTube sobre o assunto acordou ai. Curt Levery, presidente do Comitê de Justiça, era um dos especialistas do painel e, como advogado conservador que também trabalhava na indústria de inteligência artificial, ele tinha uma perspectiva única para compartilhar.
Acho interessante que a esquerda e a direita se queixem do perigo de preconceito na IA, mas eles são … destinados a coisas muito diferentes. A esquerda está focada principalmente na idéia de que os modelos de IA discriminam diferentes grupos minoritários quando tomam decisões sobre contratação, empréstimos, valores da fiança, reconhecimento de face. À direita, por outro lado, há preconceitos contra pontos de vista conservadores e pessoas em grandes modelos de idiomas, como o ChatGPT.
Elon Musk deixou claro que ele acha que os modelos de IA herdam uma mentalidade acordada de seus fabricantes, e que isso é um problema, mesmo que seja contrário a ser o que ele chama, procurando a máxima verdade. Musk diz que as empresas aprendem a IA a se deitar em nome da correção política.
Levery também disse que, se o LLMS for tendencioso, isso não significa necessariamente que eles foram “projetados para serem tendenciosos”. Ele acrescentou que “os cientistas que constroem esses modelos generativos de IA precisam fazer escolhas sobre quais dados usar, e você sabe, muitos dos mesmos cientistas vivem em áreas muito liberais, como a área da baía de São Francisco e, mesmo que não tentem tornar o sistema tendencioso, eles podem escolher muito bem para dados”.
Um conservador que a expressão “viés inconsciente” usa sem revirar os olhos? Selvagem.
LLMS tem preconceitos porque temos preconceitos
Crédito: Cheng Xin/Getty Images
No final, os modelos de IA refletem os preconceitos do conteúdo que são treinados e, portanto, refletem nossos próprios preconceitos. Nesse sentido, eles são como um espelho, exceto um espelho com uma tendência a alucinar.
Para cumprir a ordem executiva, as empresas de IA podem tentar carimbar respostas para “tendenciosos” de várias maneiras. Primeiro, ao impulsionar os dados usados para treinar esses sistemas, eles podem calibrar as saídas. Eles também podem usar as instruções do sistema que são instruções de alto nível que controlam todas as saídas do modelo.
Obviamente, como Xai demonstrou repetidamente, a última abordagem … pode ser problemática. Em primeiro lugar, o Chatbot Grok de Xai desenvolveu uma fixação em “White Genocide in Sul Africa” e, mais recentemente, começou a se chamar de Mecha Hitler. A transparência pode dar o controle de possíveis abusos, e há um movimento crescente para forçar as empresas de IA a anunciar os dados de treinamento e o sistema solicita por trás de seus modelos.
Independentemente do que você pensa sobre a IA, você deve esperar o termo muito mais nos próximos meses.
