Skupina inženirjev pri podjetju BitEnergy AI, ki se specializira za tehnologijo sklepanja umetne inteligence, je poročala o revolucionarni metodi, ki lahko zmanjša porabo energije AI aplikacij za 95%. Njihove ugotovitve so bile objavljene v članku na strežniku arXiv preprint. Ko postajajo AI aplikacije vse bolj razširjene, se njihova uporaba dramatično povečuje, kar vodi v znatno povečanje porabe energije in stroškov. Na primer, veliki jezikovni modeli (LLMs), kot je ChatGPT, zahtevajo znatno računalniško moč, kar se prevede v visoko porabo električne energije. ChatGPT, na primer, trenutno porabi približno 564 MWh na dan, kar je dovolj za napajanje približno 18, 000 ameriških gospodinjstev. Z neprestanimi napredki v AI in rastočo priljubljenostjo kritiki opozarjajo, da bi te aplikacije lahko porabile okoli 100 TWh letno v nekaj letih, s čimer bi rivali energetsko porabo rudarjenja Bitcoinov. V tej novi študiji ekipa BitEnergy AI trdi, da je odkrila metodo za znatno zmanjšanje računalniških zahtev za AI aplikacije, ne da bi pri tem ogrozila delovanje. Tehnika je preprosta: namesto da se zanaša na kompleksno množenje s plavajočo vejico (FPM), uporablja seštevanje celih števil. FPM se uporablja za upravljanje zelo velikih ali zelo majhnih števil, kar omogoča natančne izračune in je najbolj energetsko potratni vidik AI procesiranja. Raziskovalci so svojo metodo poimenovali Linearno zapleteno množenje, ki približuje FPM z uporabo seštevanja celih števil.

Do sedaj so testiranja pokazala, da bi lahko ta nova metoda znižala porabo električne energije za 95%. Ena omejitev je, da zahteva različno strojno opremo od tiste, ki je trenutno na voljo. Vendar raziskovalna ekipa omenja, da je ta nova strojna oprema že zasnovana, zgrajena in testirana. Licenciranje takšne strojne opreme ostaja negotovo, še posebej ker Nvidia, vodilni proizvajalec GPU, trenutno prevladuje na trgu strojne opreme za AI. Odziv podjetja na to novo nastajajočo tehnologijo bi lahko bistveno vplival na hitrost njene uporabe, če se trditve raziskovalcev potrdijo. © 2024 Science X Network