A BitEnergy AI bemutatja az AI energiafogyasztásának 95%-os csökkentésére szolgáló áttörő technikát
Brief news summary
A BitEnergy AI mérnökei egy innovatív megközelítést mutattak be, amely akár 95%-kal is csökkentheti az AI-alkalmazások energiafogyasztását. Kutatásuk, amely elérhető az arXiv preprint szerveren, a nagy nyelvi modellek (LLM-ek) mint a ChatGPT növekvő energiaigényének problémájával foglalkozik, amelyek jelenleg körülbelül napi 564 MWh-t fogyasztanak, ami körülbelül 18 000 amerikai háztartás energiaigényének felel meg. Az AI éves energiafogyasztása előreláthatóan eléri a 100 TWh-t, ami hamarosan rivalizálhat a Bitcoin bányászat energiafogyasztásával. Az új módszer, a Lineáris-Komplexitású Szorzás, a hagyományosan energiaigényes lebegőpontos szorzásokat hatékonyabb egész szám összeadásokkal helyettesíti, jelentősen csökkentve az energiaigényt a teljesítmény megtartása mellett. Az első tesztek ígéretes megtakarításokat mutatnak, de a sikeres megvalósításhoz új hardverek fejlesztésére van szükség, amellyel a kutatók jelenleg is foglalkoznak. Az Nvidia részvétele kulcsfontosságú, mivel az engedélyezési nehézségek hátráltathatják az integrációt. Ha sikerrel jár, ez a technológia forradalmasíthatja az energiagazdálkodást az AI szektorban.A BitEnergy AI, az AI következtetési technológia terén szakosodott cég mérnöki munkacsoportja áttörést jelentő módszert mutatott be, amely az AI-alkalmazások energiafogyasztását 95%-kal képes csökkenteni. A kutatási eredményeiket egy tanulmányban tették közzé az arXiv preprint szerveren. Ahogy az AI-alkalmazások egyre szélesebb körben terjednek, a használatuk nagymértékben megnövekedett, ami az energiafogyasztás és -költségek jelentős növekedéséhez vezetett. Például a nagy nyelvi modellek (LLM-ek), mint a ChatGPT, jelentős számítási teljesítményt igényelnek, ami magas villamosenergia-felhasználással jár. A ChatGPT például jelenleg körülbelül 564 MWh-t fogyaszt naponta, ami elegendő körülbelül 18 000 amerikai háztartás ellátására. Az AI folyamatos fejlődésével és növekvő népszerűségével a kritikusok arra figyelmeztetnek, hogy ezek az alkalmazások néhány éven belül évi 100 TWh körüli fogyasztásúvá válhatnak, ami már vetekszik a Bitcoin bányászat energiafelhasználásával. Az új tanulmányban a BitEnergy AI csoport azt állítja, hogy felfedezte a módszert, amellyel jelentősen csökkenthetők az AI-alkalmazások számítási követelményei anélkül, hogy a teljesítményt veszélyeztetnék. A technika egyszerű: a bonyolult lebegőpontos szorzás (FPM) helyett egész számok összeadását használja. Az FPM nagy vagy nagyon kicsi számok kezelésére és a pontos számításokra szolgál, ez teszi az AI feldolgozás leginkább energiaigényes részévé. A kutatók saját megközelítésüknek a Lineáris-Komplexitású Szorzás nevet adták, amely az FPM-et egész számok összeadásával közelíti.
Az eddigi tesztelés azt mutatja, hogy ez az új módszer akár 95%-kal is csökkentheti a villamosenergia-fogyasztást. Az egyetlen korlátozás, hogy más hardvert igényel, mint ami jelenleg elérhető. Azonban a kutatócsoport megemlíti, hogy ez az új hardver már meg lett tervezve, építve és tesztelve. Az ilyen hardverek engedélyezése bizonytalan, különösen, mivel az Nvidia, a vezető GPU-gyártó, jelenleg uralja az AI hardverpiacot. A cég válasza erre az új technológiára jelentősen befolyásolhatja annak elterjedési ütemét – ha a kutatók állításai igazolódnak. © 2024 Science X Network
Watch video about
A BitEnergy AI bemutatja az AI energiafogyasztásának 95%-os csökkentésére szolgáló áttörő technikát
Try our premium solution and start getting clients — at no cost to you
I'm your Content Creator.
Let’s make a post or video and publish it on any social media — ready?
Content Maker
Last news
The Best for your Business
Hot news
A ByteDance megígéri, hogy szigorítja új AI-alapú…
A ByteDance kevesebb mint egy héttel ezelőtt kiadta a Seedance 2.0-t, ami világszerte felháborodást váltott ki művészek körében egy vírusvideóval, amelyben Tom Cruise-t és Brad Pittet látjuk harcolni, és amelyet mesterséges intelligencia generált.
Egy mesterséges intelligencia hangrögzítő, ami el…
Az irodai dolgozók ideális forgatókönyve az, hogy egyszerűen megnyomnak egy gombot egy eszközön, amely felveszi az értekezleteket, átírja a beszélgetéseket, és átalakítja azokat intézkedésre váró feladatokká.
A Microsoft mesterséges intelligenciával vezérelt…
A Microsoft hivatalosan is beépítette az AI-alapú Copilot segédet széles körben használt Office Csomagjába, ami jelentős lépést jelent a felhasználói interakciókban a produktivitási szoftverekkel.
Seedance 2.0
A Seedance 2.0 egy élvonalbeli kép-ről-videóra és szöveg-ről-videóra modell, amelyet a ByteDance technológiai vállalat hozott létre.
Az IBM Watson Health partnerséget kötött a BioTec…
Az IBM Watson Health részlege stratégiai partnerséget alakított ki a BioTech Innovations-szel, egy vezető biotechnológiai céggel, hogy forradalmasítsák a gyógyszerkutatást fejlett mesterséges intelligencia (MI) technológiák alkalmazásával.
Az Edge Marketing megerősíti az AI-alapú keresési…
Az Edge Marketing bejelentette, hogy nemzetközileg elismert, díjnyertes AI és SEO szakértőt, Luke Goshát, új Search & AI Strategy igazgatóként nevezi ki.
Arról, amit a legtöbb AI értékesítési eszköz nem …
Éveken keresztül az értékesítési technológia azon a feltevésen alapult, hogy a gyorsabb jobb — gyorsabb válaszok, gyorsabb követések és gyorsabb lezárások.
AI Company
Launch your AI-powered team to automate Marketing, Sales & Growth
and get clients on autopilot — from social media and search engines. No ads needed
Begin getting your first leads today
Your News is ready
Your article is ready
Lorem ipsum dolor sit amet consectetur adipisicing elit. Fuga dolor minus maiores. Aut vero expedita dicta, dolorem odit excepturi odio doloremque voluptatem repellat aliquam? Dolores nemo eum id pariatur! Nobis!
Generating video takes longer than text.
