Les empreses tecnològiques competeixen per ampliar la seva infraestructura ja que els seus productes d'intel·ligència artificial cada vegada més exigents en recursos consumeixen capacitat, esgoten l'oferta de fabricants de xips i requereixen molta més energia. Google, que en el seu moment era coneguda com el “Rei del Web”, és una d’aquestes empreses. Segons fonts, un directiu de Google hauria informat a la plantilla que l’empresa ha de multiplicar exponencialment les seves capacitats de servei per satisfer la demanda creixent dels seus serveis d’IA. CNBC va aconseguir una presentació recent d’Amin Vahdat, vicepresident de Machine Learning, Systems i Cloud AI a Google. La presentació contenia una diapositiva sobre “la demanda de càlcul d’IA” que afirmava que Google “ha de doblar cada 6 mesos…amb l’objectiu d’aconseguir un increment de 1000 vegades en 4-5 anys. ” Segons informes de la reunió general on es va presentar, Vahdat va dir: “La competència en infraestructura d’IA és la part més crítica i més costosa de la cursa d’IA. ”-Afegeix, “La nostra feina és construir aquesta infraestructura, però no necessàriament gastar més que els competidors. Tot i això, invertirem molt, ” amb la intenció de crear una infraestructura d’IA “més fiable, més performant i més escalable que qualsevol altra a on sigui, ”. Després de l’aparició de la notícia de CNBC, Google va qüestionar alguns aspectes de l’informe.

Tot i que CNBC havia citat inicialment Vahdat dient que l’empresa necessitaria “doblar” la seva capacitat de càlcul cada sis mesos, un portaveu de Google va dir a Gizmodo que les seves paraules havien estat tretes de context. El portaveu va aclarir que Vahdat “no s’estava referint a una ampliació de capital de la magnitud que es suggereix. Simplement va declarar que la demanda de serveis d’IA requereix una capacitat de càlcul millorada significativament, cosa que Google està abordant amb millores d’eficiència en maquinari, programari i optimització de models, així com amb noves inversions. ” CNBC ja ha actualitzat el seu informe per distingir entre “capacitat de càlcul” i “capacitat de servei”. La capacitat de servei fa referència a la capacitat de Google per gestionar la creixent quantitat de peticions dels usuaris, mentre que la capacitat de càlcul inclou la infraestructura general d’IA, incloent recursos per a l’entrenament de nous models i altres costos. En consultar per aclarir aquests termes, el portaveu va explicar que el títol original “semblava indicar que volien dir que doblegaríem la quantitat de càlcul que tenim, ja sigui mesurat pel nombre de xips o per megawatts d’electricitat. ” En canvi, el creixement de capacitat que descriu Vahdat es donarà a partir de diversos factors com xips més potents i l’eficiència en models i optimitzacions. Sigui com sigui aquestes matisos, sembla que Google—igual que els seus rivals—ha de multiplicar significativament les operacions per donar suport al seu negoci emergent d’infraestructura d’IA. Les declaracions de Vahdat van sortir poc després que Google informés de grans beneficis en el seu negoci Cloud i anunciés plans d’increment de despesa per al proper any. Durant la presentació, Vahdat també va afirmar que Google necessita “oferir 1. 000 vegades més capacitat, càlcul, emmagatzematge i xarxes [que els seus competidors] pràcticament amb el mateix cost, i cada vegada, amb el mateix consum d’energia. ” Va reconèixer el repte dient: “No serà fàcil, però amb col·laboració i co-disseny, arribarem allà. ”