Tim inženjera iz kompanije BitEnergy AI, koja se bavi tehnologijom AI zaključivanja, objavio je revolucionarnu metodu koja može smanjiti potrošnju energije AI aplikacija za 95%. Svoja otkrića su objavili u radu na arXiv preprint serveru. Kako postaju sve raširenije, AI aplikacije beleže porast u korišćenju, što rezultira značajnim povećanjem potrošnje energije i troškova. Na primer, veliki jezički modeli (LLM) kao što je ChatGPT zahtevaju znatnu računarsku moć, što se prevodi u visoku potrošnju električne energije. Na primer, ChatGPT trenutno troši oko 564 MWh dnevno, što je dovoljno da pokrije potrebe oko 18, 000 američkih domaćinstava. S obzirom na kontinuirani napredak u AI i njegovu rastuću popularnost, kritičari upozoravaju da bi ove aplikacije mogle trošiti oko 100 TWh godišnje u narednih nekoliko godina, što bi rivalilo potrošnji energije u rudarenju Bitcoina. U ovoj novoj studiji, tim BitEnergy AI tvrdi da su otkrili metodu koja značajno smanjuje računarske zahteve za AI aplikacije bez ugrožavanja performansi. Tehnika je jednostavna: umesto da se oslanja na složenu množenje sa pokretnim zarezom (FPM), primenjuje sabiranje celih brojeva. FPM se koristi za upravljanje veoma velikim ili veoma malim brojevima, omogućavajući precizne proračune, što ga čini energetski najzahtevnijim aspektom AI obrade. Istraživači su nazvali svoj pristup Množenjem linearne složenosti, koje približno zamenjuje FPM korišćenjem sabiranja celih brojeva.

Dosadašnja testiranja ukazuju na to da bi ova nova metoda mogla smanjiti potrošnju električne energije za 95%. Jedini nedostatak je što zahteva drugačiji hardver od trenutnog. Međutim, istraživački tim ističe da je ovaj novi hardver već dizajniran, izgrađen i testiran. Licenciranje takvog hardvera ostaje neizvesno, naročito jer Nvidia, vodeći proizvođač GPU-a, trenutno dominira tržištem AI hardvera. Odgovor kompanije na ovu tehnologiju u razvoju može značajno uticati na stopu usvajanja — ako se tvrdnje istraživača potvrde. © 2024 Science X Network