Un equip d'enginyers de BitEnergy AI, una empresa especialitzada en tecnologia d'inferència d'IA, ha informat d'un mètode revolucionari que pot reduir el consum d'energia de les aplicacions d'IA en un 95%. Han publicat els seus descobriments en un article al servidor de preprints d'arXiv. Amb l'augment de la difusió de les aplicacions d'IA, el seu ús ha crescut exponencialment, cosa que ha provocat un augment significatiu del consum d'energia i els costos. Per exemple, els grans models de llenguatge (LLM) com ChatGPT requereixen una gran potència de càlcul, que es tradueix en un alt consum elèctric. ChatGPT, per exemple, consumeix actualment aproximadament 564 MWh al dia, suficient per abastir unes 18. 000 llars nord-americanes. Amb els avanços continus en IA i la popularitat creixent, els crítics adverteixen que aquestes aplicacions podrien consumir al voltant de 100 TWh anuals en pocs anys, igualant el consum d'energia de la mineria de Bitcoin. En aquest nou estudi, l'equip de BitEnergy AI afirma que ha descobert un mètode per reduir significativament els requisits computacionals per a les aplicacions d'IA sense comprometre el rendiment. La tècnica és senzilla: en lloc de dependre de la complexa multiplicació en coma flotant (FPM), empra l'addició d'enters. La FPM s'utilitza per gestionar nombres molt grans o molt petits, permetent càlculs precisos, convertint-la en l'aspecte més exigent enèrgicament del processament d'IA. Els investigadors han batejat el seu enfocament com Multiplicació de Complexitat Lineal, que aproximeix la FPM mitjançant l'addició d'enters.

Les proves fins ara indiquen que aquest nou mètode podria reduir el consum elèctric en un 95%. L'única limitació és que requereix un maquinari diferent del que hi ha actualment disponible. No obstant això, l'equip de recerca menciona que aquest nou maquinari ja ha estat dissenyat, construït i provat. La llicència d'aquest maquinari és incerta, especialment perquè Nvidia, un fabricant líder en GPU, actualment domina el mercat de maquinari per a IA. La resposta de l'empresa a aquesta tecnologia emergent podria influir significativament en la seva taxa d'adopció, si es confirmen les afirmacions dels investigadors. © 2024 Science X Network