BitEnergy AI, AI järeldustehnoloogiale spetsialiseerunud ettevõtte inseneride meeskond, teatas läbimurdemeetodist, mis võib vähendada tehisintellekti rakenduste energiatarbimist 95% võrra. Nad on oma tulemused avaldanud artiklis arXiv eelteavete serveris. Kuna tehisintellekti rakenduste kasutamine on muutumas laialdasemaks, on nende kasutamine märkimisväärselt kasvanud, mille tulemuseks on energiatarbimise ja -kulude märkimisväärne suurenemine. Näiteks nõuavad suured keelemudelid (LLM), nagu ChatGPT, märkimisväärset arvutusvõimsust, mis tähendab suurt elektritarbimist. Näiteks ChatGPT tarbib praegu ligikaudu 564 MWh päevas, mis on piisav umbes 18 000 Ameerika kodu varustamiseks. AI pidevate edusammude ja kasvava populaarsuse tõttu hoiatavad kriitikud, et need rakendused võivad mõne aasta jooksul tarbida umbes 100 TWh aastas, mis võrdub Bitcoin’i kaevandamise energiakasutusega. Uues uuringus väidab BitEnergy AI meeskond, et nad on avastanud meetodi, mis võimaldab märkimisväärselt vähendada AI rakenduste arvutusnõudeid ilma jõudlust ohverdamata. Meetod on lihtne: keerukate ujukoma korrutamiste (FPM) asemel kasutatakse täisarvu lisamisi.

FPM-i kasutatakse väga suurte või väga väikeste arvude käsitlemiseks, võimaldades täpseid arvutusi ja olles AI töötlemise kõige energiamahukam aspekt. Teadlased on nimetanud oma lähenemisviisi Lineaar-kompleksseks korrutamiseks, mis ligikaudselt määrab FPM-i täisarvu lisamise abil. Seni näitavad testid, et see uus meetod suudab elektritarbimist 95% võrra vähendada. Ainuke piirang on, et see nõuab erinevat riistvara kui see, mis praegu saadaval on. Siiski märgib uurimisrühm, et see uus riistvara on juba kujundatud, ehitatud ja testitud. Sellise riistvara litsentsimine jääb ebaselgeks, eriti arvestades seda, et Nvidia, juhtiv GPU tootja, domineerib praegu AI riistvaraturgu. Ettevõtte reaktsioon sellele uuele tehnoloogiale võib märkimisväärselt mõjutada selle omaksvõtmise kiirust—kui teadlaste väited kinnitust leiavad. © 2024 Science X Network