구글, 급증하는 컴퓨트 수요 대응 위해 AI 인프라 확장 속도 가속화

Brief news summary

기술 기업들은 증가하는 AI 수요를 충족시키기 위해 인프라를 빠르게 확대하고 있는데, 이로 인해 막대한 컴퓨팅 파워, 칩 공급, 에너지가 필요합니다. 구글은 4~5년 동안 AI 서비스 능력을 1000배로 늘릴 계획이며, 매 6개월마다 두 배씩 증가시키고 있습니다. 이는 단순히 용량을 늘리기보다는 하드웨어, 소프트웨어, 모델 전반의 효율성을 개선하는 데 초점을 맞추고 있습니다. 구글은 “서비스 제공” 능력—즉, 사용자 요청을 처리하는 능력—과 훈련 및 운영을 위한 전반적인 “컴퓨트” 인프라를 구분하며, 도전 과제에도 불구하고 경쟁사들과 함께 확장 가능하고 고성능인 AI 시스템을 구축하는 것을 목표로 하고 있습니다. 부사장인 아민 바흐닷은 비용과 에너지 사용을 안정적으로 유지하면서, 컴퓨트, 저장, 네트워킹에서 1000배 더 높은 성능을 제공하는 것이 필수적임을 강조하며, 이를 위해 협업과 혁신적인 공동 설계가 필요하다고 밝혔습니다. 이러한 전략은 구글의 강력한 클라우드 수익과 더 많은 AI 인프라 투자를 계획하는 것과도 일치합니다.

테크 기업들이 점점 더 자원 집약적인 AI 제품들이 용량을 소모하고 칩 제조사의 공급을 고갈시키며 더 많은 전력을 요구함에 따라 인프라 확장 경쟁을 벌이고 있습니다. 한때 “웹의 왕”으로 알려졌던 구글도 이러한 회사 중 하나입니다. 구글의 한 고위 임원은 직원들에게 회사가 증가하는 AI 서비스 수요를 충족시키기 위해 서비스 능력을 기하급수적으로 확장해야 한다고 알렸다고 전해집니다. CNBC는 구글 인공지능, 시스템, 클라우드 AI 부문 부사장인 아민 바드트(Amin Vahdat)의 최근 발표 자료를 입수했습니다. 이 자료에는 “AI 계산 수요”에 관한 슬라이드가 있었으며, 구글이 “6개월마다 두 배씩 늘려야 한다…향후 4-5년 내에 1000배의 증가를 목표로 한다”고 적혀 있었습니다. 발표가 이루어진 전체 회의에서 전달된 내용에 따르면, 바드트는 “AI 인프라 경쟁이 가장 중요하고 가장 비용이 많이 드는 분야”라고 말했습니다. 그는 “우리의 일은 이 인프라를 구축하는 것이지만, 경쟁자보다 더 많이 쓸 필요는 없다”면서도 “우리는 많은 돈을 쓸 것”이라고 덧붙이며, “어디서나 사용할 수 있는 것보다 더 신뢰할 수 있고, 더 성능이 뛰어나며, 더 확장 가능한 AI 인프라를 만드는 것이 목표”라고 밝혔습니다. CNBC가 보도한 이후, 구글은 해당 보고서의 일부 내용을 부인했습니다.

CNBC는 처음에 바드트가 회사가 “6개월마다 계산 능력을 두 배로 늘려야 한다”고 언급한 것으로 보도했으나, 구글 대변인은 Gizmodo에 그의 발언이 맥락에서 벗어났다고 해명했습니다. 대변인은 “그는 그렇게 큰 규모의 자본 구축을 의미하지 않았다”고 전하며, “AI 서비스 수요가 훨씬 더 많은 계산 능력을 요구한다는 것, 이는 하드웨어, 소프트웨어, 모델 최적화, 그리고 새로운 투자를 통해 구글이 해결하고 있는 문제”라고 설명했습니다. 이후 CNBC는 보고서를 업데이트하여 “계산 능력”과 “서비스 능력”의 구별을 명확히 했습니다. 서비스 능력이란 구글이 증가하는 사용자 요청량을 처리하는 능력을 의미하며, 계산 능력은 신모델 훈련을 위한 자원과 기타 비용을 포함한 전체 AI 인프라를 말합니다. 이 용어들에 대해 문의하자, 구글 대변인은 원래 헤드라인이 “그가 우리가 보유한 계산 능력을 두 배로 늘린다고 암시한 것처럼 보이게 했다”고 설명하며, 이는 칩 수나 전력(메가와트) 단위로 측정한 것이 아니라고 밝혔습니다. 대신 바드트가 말한 용량 증가는 더 강력한 칩, 모델의 효율성 향상, 그리고 최적화 같은 여러 요인에서 비롯될 예정이라고 덧붙였습니다. 이러한 미묘한 차이에도 불구하고, 구글이 경쟁사들처럼 새롭게 부상하는 AI 인프라 사업을 지원하기 위해서는 상당한 규모의 확장이 불가피한 것으로 보입니다. 바드트의 발언은 구글이 클라우드 사업에서 강한 이익을 기록했고, 앞으로 더 많은 투자를 계획하고 있다는 발표 이후 나온 것이었습니다. 그는 발표에서 구글이 “경쟁사보다 훨씬 더 많은 능력, 계산력, 저장 공간, 네트워킹을 거의 같은 비용과 점점 더 같은 에너지 소비로 제공할 필요가 있다”고 말했으며, 이를 달성하는 것은 “쉽지 않겠지만, 협력과 공동 설계를 통해 이루어질 것”이라고 인정했습니다.