Perusahaan teknologi sedang berlomba-lomba memperluas infrastruktur mereka karena produk AI yang semakin membutuhkan sumber daya mengonsumsi kapasitas, menguras pasokan pembuat chip, dan menuntut lebih banyak daya listrik. Google, yang pernah dikenal sebagai “Raja Web, ” adalah salah satu dari perusahaan-perusahaan ini. Seorang eksekutif senior dari Google dilaporkan memberi tahu staf bahwa perusahaan harus memperbesar kemampuan penyajian secara eksponensial untuk memenuhi permintaan yang meningkat terhadap layanan AI-nya. CNBC memperoleh sebuah presentasi terbaru dari Amin Vahdat, Wakil Presiden Machine Learning, Sistem, dan Cloud AI di Google. Presentasi tersebut memuat sebuah slide mengenai “Permintaan compute AI” yang menyatakan bahwa Google “harus menggandakan setiap 6 bulan…dengan target peningkatan 1000 kali lipat dalam 4-5 tahun. ” Menurut laporan dari pertemuan seluruh tim di mana presentasi itu disampaikan, Vahdat berkata, “Persaingan dalam infrastruktur AI adalah bagian yang paling krusial dan paling mahal dari perlombaan AI. ” Ia menambahkan, “Tugas kita adalah membangun infrastruktur ini, tetapi tidak harus dengan mengeluarkan biaya lebih besar dari pesaing. Namun, kita akan mengeluarkan banyak uang, ” dengan tujuan menciptakan infrastruktur AI yang “lebih andal, lebih performa tinggi, dan lebih skalabel daripada apa pun yang tersedia di tempat lain. ” Setelah cerita CNBC beredar, Google membantah beberapa aspek dari laporan tersebut.

Meskipun CNBC awalnya mengutip Vahdat yang mengatakan bahwa perusahaan perlu “menggandakan” kapasitas compute-nya setiap enam bulan, juru bicara Google memberi tahu Gizmodo bahwa kata-katanya diambil di luar konteks. Juru bicara tersebut menjelaskan bahwa Vahdat “tidak merujuk pada pembangunan kapasitas besar-besaran secara finansial seperti yang disarankan. Dia hanya menyatakan bahwa permintaan layanan AI membutuhkan kapasitas komputasi yang jauh lebih besar, yang dapat diatasi Google melalui peningkatan efisiensi pada perangkat keras, perangkat lunak, dan pengoptimalan model, serta investasi baru. ” CNBC sejak itu memperbarui laporannya untuk membedakan antara “compute” dan “kapasitas penyajian. ” Kapasitas penyajian mengacu pada kemampuan Google dalam mengelola volume permintaan pengguna yang meningkat, sementara kapasitas compute mencakup seluruh infrastruktur AI, termasuk sumber daya untuk melatih model baru dan biaya lainnya. Saat ditanya mengenai penjelasan istilah-istilah ini, juru bicara menjelaskan bahwa judul utama semula “membaca seolah-olah dia menyiratkan bahwa kita menggandakan jumlah compute yang kita miliki—baik diukur dari jumlah chip maupun megawatt listrik. ” Sebaliknya, pertumbuhan kapasitas yang Vahdat gambarkan akan berasal dari berbagai faktor seperti chip yang lebih mampu dan efisiensi dalam model serta pengoptimalan. Terlepas dari perbedaan nuansa ini, tampaknya Google—seperti rivalnya—harus secara signifikan meningkatkan operasinya untuk mendukung bisnis infrastruktur AI yang sedang berkembang. Pernyataan Vahdat muncul tak lama setelah Google melaporkan laba yang solid dari bisnis Cloud dan menyatakan rencana untuk meningkatkan pengeluaran dalam tahun mendatang. Dalam presentasi tersebut, Vahdat juga dilaporkan menyatakan bahwa Google perlu “menghasilkan kemampuan, compute, penyimpanan, dan jaringan 1. 000 kali lebih besar [daripada pesaingnya] dengan biaya yang pada dasarnya sama, dan semakin, dengan konsumsi energi yang sama. ” Dia mengakui tantangan ini dengan berkata, “Ini tidak akan mudah, tetapi melalui kolaborasi dan desain bersama, kita akan sampai di sana. ”