Insinööritiimi BitEnergy AI:ltä, yrityksestä, joka erikoistuu tekoälyn inferenssiteknologiaan, on raportoinut läpimurto-menetelmän, joka voi vähentää tekoälysovellusten energiankulutusta 95%. He ovat julkaisseet havaintonsa artikkelissa arXiv:n esipainatuspalvelimella. Kun tekoälysovellukset yleistyvät, niiden käyttö on lisääntynyt huomattavasti, mikä on johtanut energian kulutuksen ja kustannusten merkittävään kasvuun. Esimerkiksi suuret kielimallit (LLM:t) kuten ChatGPT vaativat huomattavaa laskentatehoa, mikä tarkoittaa suurta sähkönkulutusta. Esimerkiksi ChatGPT käyttää tällä hetkellä noin 564 MWh päivässä, mikä riittää noin 18 000 amerikkalaisen kodin voimanlähteeksi. Tekoälyn jatkuvien edistysaskelten ja kasvavan suosion myötä kriitikot varoittavat, että nämä sovellukset voivat muutamassa vuodessa kuluttaa noin 100 TWh vuosittain, mikä vastaa Bitcoin-louhinnan energiankulutusta. Tässä uudessa tutkimuksessa BitEnergy AI:n tiimi väittää löytäneensä menetelmän, jolla voi merkittävästi vähentää tekoälysovellusten laskennallisia vaatimuksia suorituskykyä heikentämättä. Tekniikka on yksinkertainen: monimutkaisten liukuluvun kertoimien (FPM) sijasta käytetään kokonaislukulisäyksiä.

FPM:ää käytetään hallitsemaan erittäin suuria tai pieniä lukuja, mikä mahdollistaa tarkan laskennan ja on tekoälyn prosessoinnin energiankulutuksen kannalta kuormittavin aspekti. Tutkijat ovat nimenneet lähestymistapansa lineaari-monimutkaisuus-monistukseksi, joka käyttää kokonaislukulisäyksiä FPM:n lähentämiseen. Testit tähän mennessä osoittavat, että tämä uusi menetelmä voisi vähentää sähkönkulutusta 95%. Ainoa rajoitus on, että se vaatii erilaista laitteistoa kuin mitä tällä hetkellä on saatavilla. Tutkimusryhmä mainitsee kuitenkin, että tämä uusi laitteisto on jo suunniteltu, rakennettu ja testattu. Tällaisen laitteiston lisensointi on epävarmaa, varsinkin kun Nvidia, johtava GPU-valmistaja, hallitsee tällä hetkellä tekoälylaitemarkkinoita. Yrityksen vastaus tähän nousevaan teknologiaan voi merkittävästi vaikuttaa sen omaksumisnopeuteen – mikäli tutkijoiden esittämät väitteet vahvistuvat. © 2024 Science X Network