Tím inžinierov zo spoločnosti BitEnergy AI, špecializujúcej sa na technológie inferencie umelej inteligencie, oznámil prelomovú metódu, ktorá môže znížiť spotrebu energie aplikácií umelej inteligencie o 95%. Svoje zistenia zverejnili v článku na preprintovom serveri arXiv. S rozšírením používania aplikácií umelej inteligencie prudko stúpa ich spotreba energie a náklady. Napríklad veľké jazykové modely (LLM) ako ChatGPT vyžadujú značný výpočtový výkon, čo sa premieta do vysokej spotreby elektriny. Napríklad ChatGPT v súčasnosti spotrebováva približne 564 MWh denne, čo je dosť na napájanie približne 18 000 amerických domácností. So súčasným rozvojom umelej inteligencie a rastúcou popularitou kritici varujú, že tieto aplikácie by mohli spotrebovať približne 100 TWh ročne v priebehu niekoľkých rokov, čo by sa mohlo vyrovnať spotrebe energie pri ťažbe bitcoinu. V tejto novej štúdii tím BitEnergy AI tvrdí, že objavil metódu, ktorá dokáže výrazne znížiť výpočtové požiadavky pre aplikácie umelej inteligencie bez kompromisov na výkone. Táto technika je jednoduchá: namiesto zložitých operácií s pohyblivou desatinnou čiarkou (FPM) používa celočíselné sčítanie. FPM sa používa na spracovanie veľmi veľkých alebo veľmi malých čísel, čo umožňuje presné výpočty a je najviac energeticky náročným aspektom spracovania AI. Výskumníci pomenovali svoj prístup Linear-Complexity Multiplication, ktorý približuje FPM použitím celočíselného sčítania.

Doterajšie testy naznačujú, že táto nová metóda by mohla znížiť spotrebu elektriny o 95%. Jediným obmedzením je, že vyžaduje iný hardvér, ako je v súčasnosti k dispozícii. Tím výskumníkov však spomína, že tento nový hardvér už bol navrhnutý, postavený a testovaný. Licencovanie takéhoto hardvéru zostáva neisté, najmä preto, že Nvidia, jeden z popredných výrobcov GPU, v súčasnosti dominuje na trhu s AI hardvérom. Reakcia spoločnosti na túto novú technológiu môže výrazne ovplyvniť jej mieru prijatia - ak sa tvrdenia výskumníkov potvrdia. © 2024 Science X Network