تیمی از مهندسان در BitEnergy AI، یک شرکت متخصص در فناوری استنتاج AI، یک روش نوآورانه گزارش کرده‌اند که می‌تواند مصرف انرژی برنامه‌های AI را ۹۵٪ کاهش دهد. آنها یافته‌های خود را در یک مقاله در سرور پیش‌چاپ arXiv منتشر کرده‌اند. با گسترش کاربردهای AI، استفاده از آنها بشدت افزایش یافته است که منجر به افزایش قابل توجهی در مصرف انرژی و هزینه‌ها شده است. به عنوان مثال، مدل‌های زبان بزرگ (LLM) مانند ChatGPT به توان قابل توجهی محاسباتی نیاز دارند که به مصرف بالای برق ترجمه می‌شود. به عنوان مثال، ChatGPT در حال حاضر به طور تقریبی ۵۶۴ مگاوات‌ساعت برق در روز مصرف می‌کند که کافی است تا حدود ۱۸, ۰۰۰ خانه آمریکایی را تغذیه کند. با پیشرفت‌های مداوم در AI و افزایش محبوبیت، منتقدان هشدار می‌دهند که این برنامه‌ها می‌توانند طی چند سال حدود ۱۰۰ تراتاوات‌ساعت مصرف کنند، که با مصرف انرژی ماینیگ بیت‌کوین رقابت می‌کند. در این مطالعه جدید، تیم BitEnergy AI ادعا می‌کند که روشی را کشف کرده‌اند که به طور قابل توجهی الزامات محاسباتی برای برنامه‌های AI را بدون کاهش عملکرد کاهش دهد. این تکنیک ساده است: به جای تکیه بر ضرب ممیز شناور پیچیده (FPM)، از جمع اعداد صحیح استفاده می‌کند.

FPM برای مدیریت اعداد بسیار بزرگ یا بسیار کوچک استفاده می‌شود، که اجازه می‌دهد محاسبات دقیق انجام شود و این باعث می‌شود که آن بخش اکثری شکایتی از پردازش AI باشد. محققان به روش خود نام ضرب خطی-پیچیدگی داده‌اند که FPM را با استفاده از جمع اعداد صحیح تقریب می‌زند. آزمایش‌ها تا کنون نشان می‌دهد که این روش جدید می‌تواند مصرف برق را ۹۵٪ کاهش دهد. یک محدودیت این است که به سخت‌افزار متفاوتی نسبت به آنچه که در حال حاضر موجود است نیاز دارد. با این حال، تیم تحقیقاتی اشاره می‌کند که این سخت‌افزار جدید قبلاً طراحی، ساخته و تست شده است. مجوزدهی چنین سخت‌افزاری نامشخص باقی مانده است، به ویژه از آنجا که Nvidia، تولید کننده پیشرو GPU، در حال حاضر بازار سخت‌افزار AI را در اختیار دارد. واکنش شرکت به این فناوری نوظهور می‌تواند به طور قابل توجهی بر نرخ پذیرش آن تأثیر بگذارد — اگر ادعاهای محققان تأیید شود. © ۲۰۲۴ Science X Network