Une équipe d'ingénieurs de BitEnergy AI, une entreprise spécialisée dans la technologie d'inférence de l'IA, a rapporté une méthode révolutionnaire qui peut réduire la consommation d'énergie des applications d'IA de 95%. Ils ont publié leurs conclusions dans un article sur le serveur de prépublication arXiv. À mesure que les applications d'IA deviennent plus répandues, leur utilisation a explosé, entraînant une augmentation significative de la consommation d'énergie et des coûts. Par exemple, les grands modèles de langage (LLM) comme ChatGPT nécessitent une puissance informatique considérable, ce qui se traduit par une consommation d'électricité élevée. ChatGPT, par exemple, consomme actuellement environ 564 MWh par jour, ce qui suffit pour alimenter environ 18 000 foyers américains. Avec les progrès continus de l'IA et la popularité croissante, les critiques avertissent que ces applications pourraient consommer environ 100 TWh par an d'ici quelques années, rivalisant avec la consommation d'énergie de l'exploitation minière de Bitcoin. Dans cette nouvelle étude, l'équipe de BitEnergy AI affirme avoir découvert une méthode pour réduire de manière significative les exigences computationnelles des applications d'IA sans compromettre les performances. La technique est simple : au lieu de s'appuyer sur la multiplication complexe en virgule flottante (FPM), elle utilise l'addition d'entiers.

Le FPM est utilisé pour gérer des nombres très grands ou très petits, permettant des calculs précis, ce qui en fait l'aspect le plus énergivore du traitement de l'IA. Les chercheurs ont nommé leur approche Multiplication à Complexité Linéaire, qui approximate le FPM en utilisant l'addition d'entiers. Les tests jusqu'à présent indiquent que cette nouvelle méthode pourrait diminuer la consommation électrique de 95%. La seule limitation est qu'elle nécessite un matériel différent de celui actuellement disponible. Cependant, l'équipe de recherche mentionne que ce nouveau matériel a déjà été conçu, construit et testé. La licence de ce matériel reste incertaine, d'autant plus que Nvidia, un fabricant de GPU leader, domine actuellement le marché du matériel de l'IA. La réponse de l'entreprise à cette technologie émergente pourrait influencer de manière significative son taux d'adoption—si les affirmations des chercheurs sont confirmées. © 2024 Science X Network