BitEnergy AI Revela Técnica Inovadora para Reduzir o Consumo de Energia de IA em 95%
Brief news summary
Os engenheiros da BitEnergy AI revelaram uma abordagem inovadora que pode reduzir o consumo de energia em aplicações de IA em até 95%. Seu estudo, disponível no servidor de pré-impressão arXiv, aborda as crescentes demandas de energia associadas a grandes modelos de linguagem (LLMs) como o ChatGPT, que atualmente consomem aproximadamente 564 MWh diariamente—equivalente às necessidades energéticas de cerca de 18.000 residências nos EUA. Com o uso anual de energia da IA projetado para atingir 100 TWh, pode em breve rivalizar com o consumo de energia visto na mineração de Bitcoin. O novo método, Multiplicação de Complexidade Linear, substitui as tradicionalmente intensas multiplicações de ponto flutuante por adições de inteiros mais eficientes, diminuindo significativamente as necessidades de energia enquanto mantém o desempenho. Testes iniciais mostram economias promissoras, mas a implementação bem-sucedida exigirá o desenvolvimento de novo hardware, atualmente sendo perseguido pelos pesquisadores. O envolvimento da Nvidia é crítico, pois desafios de licenciamento poderiam dificultar a integração. Se bem-sucedido, essa tecnologia poderia revolucionar o consumo de energia no setor de IA.Uma equipe de engenheiros da BitEnergy AI, uma empresa especializada em tecnologia de inferência de IA, relatou um método inovador que pode reduzir o consumo de energia de aplicações de IA em 95%. Eles publicaram suas descobertas em um artigo no servidor de pré-impressão arXiv. À medida que as aplicações de IA se tornam mais difundidas, seu uso aumentou significativamente, resultando em um aumento significativo no consumo de energia e custos. Por exemplo, grandes modelos de linguagem (LLMs) como o ChatGPT exigem considerável poder computacional, o que se traduz em alto consumo de eletricidade. O ChatGPT, por exemplo, consome atualmente aproximadamente 564 MWh por dia, suficiente para abastecer cerca de 18. 000 residências americanas. Com os avanços contínuos na IA e o aumento da popularidade, os críticos alertam que essas aplicações poderiam consumir cerca de 100 TWh anualmente dentro de alguns anos, rivalizando com o consumo de energia da mineração de Bitcoin. Neste novo estudo, a equipe da BitEnergy AI afirma ter descoberto um método para reduzir significativamente os requisitos computacionais para aplicações de IA sem comprometer o desempenho. A técnica é simples: em vez de depender da complexa multiplicação de ponto flutuante (FPM), emprega a adição de inteiros.
FPM é utilizado para gerenciar números muito grandes ou muito pequenos, permitindo cálculos precisos, tornando-se o aspecto mais consumidor de energia do processamento de IA. Os pesquisadores nomearam sua abordagem de Multiplicação de Complexidade Linear, que aproxima o FPM usando adição de inteiros. Testes até agora indicam que este novo método poderia diminuir o consumo de eletricidade em 95%. A única limitação é que ele necessita de um hardware diferente do que está atualmente disponível. No entanto, a equipe de pesquisa menciona que este novo hardware já foi projetado, construído e testado. A licença de tal hardware ainda é incerta, especialmente porque a Nvidia, um fabricante líder de GPUs, atualmente domina o mercado de hardware de IA. A resposta da empresa a esta tecnologia emergente poderia influenciar significativamente sua taxa de adoção—se as alegações feitas pelos pesquisadores forem confirmadas. © 2024 Science X Network
Watch video about
BitEnergy AI Revela Técnica Inovadora para Reduzir o Consumo de Energia de IA em 95%
Try our premium solution and start getting clients — at no cost to you
