BitEnergy AI, AI инференциялық технологияларға мамандандырылған компанияның инженерлері ИИ қосымшаларының энергия тұтынуын 95% азайта алатын серпінді әдісті тапты. Олар өздерінің тапқан нәтижелерін arXiv алдынғы басылым серверіндегі мақалада жариялады. ИИ қосымшалары кеңінен қолданылған сайын, олардың пайдалануы күрт өсіп, энергия тұтынуы және құны айтарлықтай артты. Мысалы, ChatGPT сияқты үлкен тілдік модельдер (LLM) жоғары электр энергиясы шығындарына әкелетін есептеу қуатын талап етеді. Мысалы, ChatGPT қазіргі уақытта күніне шамамен 564 МВт/сағ тұтынуда, ол шамамен 18, 000 американдық үйді қуаттандыруға жеткілікті. ИИ дамуы мен танымалдылығының өсуіне байланысты, сыншылар бұл қосымшалар бірнеше жылдың ішінде жылына шамамен 100 ТВч тұтынуы мүмкін, қазірдің өзінде Bitcoin өндіруінің энергия тұтынуын теңестіреді деп ескертеді. Бұл жаңа зерттеуде BitEnergy AI командасы ИИ қосымшаларының есептеу талаптарын айтарлықтай азайту үшін өнімділікке зиян тигізбейтін әдісті тапты деп мәлімдейді. Техника қарапайым: кәдімгі күрделі нүктелік көбейтуді (FPM) пайдаланбай, тұтас қосуды пайдаланады.

FPM өте үлкен немесе өте кіші сандарды басқару үшін қолданылады, дәл есептеуді қамтамасыз ете отырып, бұл ИИ өңдеулеріндегі ең жоғары энергия қолданушылығы бар бөлік етеді. Зерттеушілер өздерінің тәсілдерін Тұтас Қосымдық Көбейту деп атады, ол FPM-ны тұтас қосу арқылы жақындатады. Қазіргі тестілеу бойынша, бұл жаңа әдіс электр энергиясын тұтынуды 95% азайтуы мүмкін екенін көрсетеді. Бір шектеу - бұл қазіргі қолжетімді болатыннан өзгеше жабдықты қажет етеді. Алайда, зерттеу тобы бұл жаңа жабдықтың қазірдің өзінде жасалғанын, салынғанын және тексерілгенін айтады. Осындай жабдықты лицензиялау анық емес, әсіресе Nvidia, жетекші GPU өндірушісі, қазіргі уақытта AI аппараттық нарығында басымдық көрсетті. Зерттеушілердің айтқан мәліметтері расталса, бұл жаңа технологияны қабылдау қарқынына айтарлықтай әсер етуі мүмкін. © 2024 Science X Network