Тим од инженери на BitEnergy AI, компанија специјализирана за AI inference технологија, пријави метод со кој може да се намали потрошувачката на енергија на AI апликации за 95%. Тие ги објавија своите наоди во труд на arXiv серверот за пред-печат. Како што AI апликациите стануваат пошироко прифатени, нивната употреба значајно се зголеми, резултирајќи со значително зголемување на потрошувачката на енергија и трошоците. На пример, големите јазични модели како ChatGPT бараат значителна компјутерска моќ, што се преведува на висока употреба на електрична енергија. На пример, ChatGPT моментално троши околу 564 MWh дневно, што е доволно да се снабдат околу 18, 000 американски домови. Со тековните напредоци во AI и се зголемената популарност, критичарите предупредуваат дека овие апликации може да трошат околу 100 TWh годишно во неколку години, што би се изедначил со употребата на енергија на Bitcoin рударството. Во ова ново истражување, тимот на BitEnergy AI тврди дека откриле метод кој значајно може да ги намали компјутерските барања за AI апликации без да се компрометира перформансот. Техниката е едноставна: наместо да се потпира на комплексно множење на испливни точки (FPM), користи додавки на цели броеви.

FPM се користи за управување со многу големи или многу мали броеви, овозможува прецизни пресметки, што го прави најенергетски исцрпувачкиот аспект на AI обработка. Истражувачите својот пристап го нарекоа Множење со Линеарна Комплексност, кое приближува FPM користејќи додавки на цели броеви. Тестирањето досега покажува дека оваа нова метода може да ја намали потрошувачката на електрична енергија за 95%. Единственото ограничување е дека потребува различен хардвер од она што моментално е достапно. Сепак, истражувачкиот тим споменува дека овој нов хардвер веќе е дизајниран, изграден и тестиран. Лиценцирањето на таков хардвер останува неизвесно, особено затоа што Nvidia, водечки производител на GPU, моментално доминира на пазарот на AI хардвер. Реакцијата на компанијата на оваа нова технологија може значајно да влијае на стапката на усвојување—доколку тврдењата на истражувачите бидат потврдени. © 2024 Science X Network