Companiile tech concure pentru a-și extinde infrastructura, pe măsură ce produsele lor din ce în ce mai resource-heavy bazate pe AI consumă capacitate, epuizează oferta producătorilor de cipuri și solicită mai multă energie. Google, odată cunoscut sub numele de „Regele Web-ului”, este printre aceste companii. Un director senior de la Google a informat, aparent, angajații că firma trebuie să își mărească exponențial capacitățile de servire pentru a face față cererii în creștere pentru serviciile sale AI. CNBC a obținut o prezentare recentă a lui Amin Vahdat, vicepreședinte pentru Învățare Automată, Sisteme și Cloud AI la Google. Prezentarea conținea un slide despre „cererea de calcul AI” în care se menționa că Google „trebuie să dubleze capacitatea la fiecare 6 luni…vizând o creștere de 1000x în următorii 4-5 ani. ” Conform raportărilor din întâlnirea generală unde a fost prezentată această prezentare, Vahdat a spus: „Concurența în infrastructura AI este cea mai critică și cea mai costisitoare parte a cursei AI. ” A adăugat: „Jobul nostru este să construim această infrastructură, dar nu neapărat să depășim competitorii din punct de vedere al cheltuielilor. Totuși, vom cheltui mult, ” cu scopul de a crea o infrastructură AI „mai fiabilă, mai performantă și mai scalabilă decât orice altceva disponibil pe piață. ” După apariția poveștii CNBC, Google a contestat unele aspecte ale raportului.

În timp ce CNBC a citat inițial că Vahdat spusese că firma va avea nevoie să „dubleze” capacitatea de calcul o dată la șase luni, un purtător de cuvânt al Google a declarat pentru Gizmodo că cuvintele acestuia au fost scoase din context. Purtătorul de cuvânt a clarificat că Vahdat „nu se referea la o extindere de capital de asemenea amploare. El a afirmat pur și simplu că cererea pentru servicii AI necesită o capacitate de calcul semnificativ mai mare, ceea ce Google abordează prin îmbunătățiri ale eficienței pe hardware, software și optimizarea modelelor, precum și prin noi investiții. ” CNBC și-a actualizat ulterior raportul pentru a face distincție între „capacitatea de calcul” și „capacitatea de servire. ” Capacitatea de servire se referă la abilitatea Google de a gestiona volumul crescut de solicitări ale utilizatorilor, în timp ce capacitatea de calcul acoperă infrastructura generală AI, incluzând resurse pentru antrenarea noilor modele și alte costuri. Întrebat pentru clarificări despre acești termeni, purtătorul de cuvânt a explicat că titlul inițial „părea să sugereze că implicăm dublarea cantității de calcul pe care o avem — fie măsurată prin numărul de cipuri, fie prin megawați de electricitate. ” În realitate, creșterea capacității descrisă de Vahdat va veni din mai mulți factori, precum cipuri mai performante, eficiență sporită în modele și optimizări. Indiferent de aceste nuanțe, se pare că Google — la fel ca rivalii săi — trebuie să scaleze semnificativ operațiunile pentru a susține viziunea sa emergentă de infrastructură AI. Comentariile lui Vahdat au venit la scurt timp după ce Google a raportat profituri solide din afacerea sa Cloud și a anunțat planuri de creștere a cheltuielilor în anul următor. În timpul prezentării, Vahdat a mai spus, aparent, că Google trebuie să „livreză de 1. 000 de ori mai multă capacitate, calcul, stocare și rețea [decât concurența] la practic același cost, și, tot mai mult, la același consum de energie. ” A recunoscut provocarea și a spus: „Nu va fi ușor, dar prin colaborare și co-proiectare, vom ajunge acolo. ”