Uma equipe de engenheiros da BitEnergy AI, uma empresa especializada em tecnologia de inferência de IA, relatou um método inovador que pode reduzir o consumo de energia de aplicações de IA em 95%. Eles publicaram suas descobertas em um artigo no servidor de pré-impressão arXiv. À medida que as aplicações de IA se tornam mais difundidas, seu uso aumentou significativamente, resultando em um aumento significativo no consumo de energia e custos. Por exemplo, grandes modelos de linguagem (LLMs) como o ChatGPT exigem considerável poder computacional, o que se traduz em alto consumo de eletricidade. O ChatGPT, por exemplo, consome atualmente aproximadamente 564 MWh por dia, suficiente para abastecer cerca de 18. 000 residências americanas. Com os avanços contínuos na IA e o aumento da popularidade, os críticos alertam que essas aplicações poderiam consumir cerca de 100 TWh anualmente dentro de alguns anos, rivalizando com o consumo de energia da mineração de Bitcoin. Neste novo estudo, a equipe da BitEnergy AI afirma ter descoberto um método para reduzir significativamente os requisitos computacionais para aplicações de IA sem comprometer o desempenho. A técnica é simples: em vez de depender da complexa multiplicação de ponto flutuante (FPM), emprega a adição de inteiros.

FPM é utilizado para gerenciar números muito grandes ou muito pequenos, permitindo cálculos precisos, tornando-se o aspecto mais consumidor de energia do processamento de IA. Os pesquisadores nomearam sua abordagem de Multiplicação de Complexidade Linear, que aproxima o FPM usando adição de inteiros. Testes até agora indicam que este novo método poderia diminuir o consumo de eletricidade em 95%. A única limitação é que ele necessita de um hardware diferente do que está atualmente disponível. No entanto, a equipe de pesquisa menciona que este novo hardware já foi projetado, construído e testado. A licença de tal hardware ainda é incerta, especialmente porque a Nvidia, um fabricante líder de GPUs, atualmente domina o mercado de hardware de IA. A resposta da empresa a esta tecnologia emergente poderia influenciar significativamente sua taxa de adoção—se as alegações feitas pelos pesquisadores forem confirmadas. © 2024 Science X Network