Les entreprises technologiques rivalisent pour étendre leurs infrastructures alors que leurs produits d'IA de plus en plus gourmands en ressources consomment de la capacité, épuisent l’approvisionnement des fabricants de puces et demandent plus d’énergie. Google, autrefois connu comme le « Roi du Web », figure parmi ces entreprises. Un haut responsable de Google aurait informé le personnel que la société doit multiplier par souci d’échelle ses capacités de service pour répondre à la demande croissante de ses services d’IA. CNBC a obtenu une présentation récente d’Amin Vahdat, vice-président de l’apprentissage automatique, des systèmes et de l’IA Cloud chez Google. La présentation comportait une diapositive intitulée « Demande de calcul pour l’IA » indiquant que Google « doit doubler tous les 6 mois…visant une augmentation de 1000 fois d’ici 4-5 ans ». Selon des comptes-rendus de la réunion générale où la présentation a été faite, Vahdat a déclaré : « La compétition dans l’infrastructure de l’IA est la partie la plus critique et la plus coûteuse de la course à l’IA. » Il a ajouté : « Notre tâche est de construire cette infrastructure, mais pas nécessairement de dépenser plus que nos concurrents. Cependant, nous allons dépenser beaucoup », avec pour objectif de créer une infrastructure d’IA « plus fiable, plus performante et plus évolutive que tout ce qui existe ailleurs. » Après la publication de l’article de CNBC, Google a contesté certains aspects du rapport. Alors que CNBC citait initialement Vahdat comme disant que l’entreprise aurait besoin de « doubler » sa capacité de calcul tous les six mois, un porte-parole de Google a déclaré à Gizmodo que ses propos avaient été sortis de leur contexte.

Le porte-parole a précisé que Vahdat « ne faisait pas référence à une expansion en capital d’une ampleur aussi grande que celle suggérée. Il a simplement expliqué que la demande en services d’IA nécessite une capacité informatique nettement supérieure, ce que Google aborde par des améliorations d’efficacité dans le matériel, les logiciels et l’optimisation des modèles, ainsi que par de nouveaux investissements. » Depuis, CNBC a mis à jour son rapport pour distinguer entre « capacité de calcul » et « capacité de service ». La capacité de service désigne la capacité de Google à gérer le volume croissant des demandes des utilisateurs, tandis que la capacité de calcul englobe l’ensemble de l’infrastructure IA, y compris les ressources pour l’entraînement de nouveaux modèles et d’autres coûts. Lorsqu’on lui a demandé des précisions sur ces termes, le porte-parole a expliqué que le titre original « donnait l’impression qu’il impliquait que nous doublons la quantité de calcul — que ce soit mesuré par le nombre de puces ou par les mégawatts d’électricité. » En réalité, la croissance de capacité décrite par Vahdat découlera de plusieurs facteurs, tels que des puces plus performantes et une amélioration de l’efficacité des modèles et des optimisations. Quel que soit le détail, il semble que Google — comme ses concurrents — doit augmenter significativement ses opérations pour soutenir son activité d’infrastructure d’IA en pleine expansion. Les remarques de Vahdat sont intervenues peu après que Google a annoncé de solides profits dans son secteur Cloud et a indiqué ses plans pour augmenter ses dépenses dans l’année à venir. Lors de la présentation, Vahdat aurait également déclaré que Google doit « fournir 1000 fois plus de capacité, de calcul, de stockage et de réseau [que ses concurrents] à coût essentiellement équivalent, et de plus en plus, avec la même consommation d’énergie. » Il a reconnu que ce défi ne serait pas simple en affirmant : « Ce ne sera pas facile, mais par la collaboration et la co-conception, nous y parviendrons. »