Você já se perguntou quanta energia você usa quando agradece ou solicita um modelo de IA. Julien Delavande, engenheiro da Hugging Face, queria saber. Ele construiu uma ferramenta que o ajudaria a descobrir. Os modelos são executados por GPUs ou chips especializados, que exigem uma grande quantidade de energia para executar as tarefas computacionais em escala. É difícil quantificar o poder necessário para executar a IA, mas muitos especialistas acreditam que o crescente uso da IA aumentará o consumo de eletricidade nos próximos anos. Delavande criou ferramentas para chamar a atenção para o problema e dar uma pausa aos usuários da IA. Delavande, os criadores dessa ferramenta e outros escreveram que mesmo a pequena economia de energia pode ter um grande impacto no meio ambiente. Já se perguntou qual energia você usa toda vez que envia um email para o ChatGPT. Todos os chatbots devem exibir isso?
Detalhes abaixo pic.twitter.com/tbl0pw51pw
Delavande Julien (@Juliendelavande) 22 de abril de 2025
A ferramenta de Delavande foi projetada para funcionar com a interface do usuário de bate-papo, um front end de código aberto para modelos como o Llama 3.3 70B do Meta e o Gemma 3 do Google. Todos os chatbots devem exibir isso?
Detalhes abaixo pic.twitter.com/tbl0pw51pw
– Delavande Julien (@Juliendelavande) 22 de abril de 2025
A ferramenta de Delavande foi projetada para funcionar com a interface do usuário de bate-papo, um front-end de código aberto para modelos como o Llama 3.3 70B do Meta e o Gemma 3 do Google. Também compara o uso de energia do modelo com o de eletrodomésticos comuns, como LEDs e microondas. Ele também compara o uso de energia do modelo com o de eletrodomésticos comuns, como microondas e LEDs.
De acordo com a ferramenta, pedindo à LLAMA 3.3 70B para escrever um email típico, usa aproximadamente 0,1841 watts-hora-equivalente à execução de um microondas por 0,12 segundos ou usando uma torradeira por 0,02 segundos.
Vale lembrar que as estimativas da ferramenta são apenas isso – estimativas. Delavande não afirma que eles são incrivelmente precisos. Estamos trabalhando para aumentar a transparência na comunidade de código aberto com projetos como a pontuação energética da IA e pesquisar o impacto da IA na energia. Delavande, seus co-criadores e outros escreveram que um dia o uso de energia poderia ser visível como rótulos de nutrição.
Fuente
