인텔은 오늘 AI 워크로드를 겨냥한 '가우디 3' 가속기를 공식적으로 출시했습니다. 새로운 프로세서들은 AI 및 HPC 애플리케이션을 위한 엔비디아의 널리 사용되는 H100 및 H200 GPU보다 느리지만, 인텔은 가우디 3의 경쟁력 있는 가격과 낮은 총 소유 비용(TCO)을 성공의 동력으로 삼고 있습니다. 가우디 3 프로세서는 64개의 텐서 프로세서 코어(TPC—FP32 축적기와 함께 256x256 MAC 구조 사용)를 포함한 두 개의 칩렛과 여덟 개의 행렬 곱셈 엔진(MME—256비트 벡터 프로세서)을 특징으로 하며, 인상적인 19. 2 TB/s 대역폭을 가진 96MB 온다이 SRAM 캐시를 갖추고 있습니다. 또한, 가우디 3는 24개의 200 GbE 네트워킹 인터페이스와 H. 265, H. 264, JPEG 및 VP9을 처리할 수 있는 14개의 미디어 엔진을 장착하여 비전 관련 작업을 지원합니다. 이 장치는 8개의 메모리 스택에 걸쳐 128GB의 HBM2E 메모리와 함께 제공되며, 3. 67 TB/s의 대역폭을 제공합니다. 전작인 가우디 2와 비교했을 때, 가우디 2는 24개의 TPC, 두 개의 MME 및 96GB의 HBM2E 메모리를 포함하고 있으며, 가우디 3는 상당한 업그레이드를 나타냅니다. 그러나 인텔은 가우디 3 프로세서가 이제 FP8 매트릭스 연산 및 BFloat16 매트릭스 및 벡터 연산만 지원하고 FP32, TF32 및 FP16 지원을 제거하면서 아키텍처를 단순화한 것 같습니다. 성능 측면에서 인텔은 가우디 3가 최대 1856 BF16/FP8 매트릭스 TFLOPS와 28. 7 BF16 벡터 TFLOPS를 달성할 수 있다고 주장하며, 이는 약 600W TDP에서 작동합니다. 문서상으로는 엔비디아의 H100에 비해 가우디 3는 약간 낮은 BF16 매트릭스 성능(1, 856 대 1, 979 TFLOPS), 절반의 FP8 매트릭스 성능(1, 856 대 3, 958 TFLOPS) 및 크게 감소된 BF16 벡터 성능(28. 7 대 1, 979 TFLOPS)을 보입니다. 그러나 기술 사양을 넘어 가우디 3의 실제 실질적인 성능이 중요할 것입니다.

이는 AMD의 Instinct MI300 시리즈와 엔비디아의 H100 및 B100/B200 프로세서와 경쟁해야 합니다. 이 경쟁은 소프트웨어 성능과 아직 완전히 평가되지 않은 기타 변수에 크게 좌우됩니다. 현재 인텔은 가우디 3가 엔비디아의 H100에 비해 상당한 가격 대비 성능 이점을 제공할 수 있다는 슬라이드를 공유했습니다. 올해 초 인텔은 하나의 기반 보드에 8개의 가우디 3 프로세서를 포함한 완전한 가속기 키트가 $125, 000에 가격을 책정할 것이라고 발표했으며, 프로세서 당 약 $15, 625입니다. 이에 비해 엔비디아 H100 카드는 약 $30, 678에 판매되고 있으며, 이는 인텔의 경쟁사를 향한 상당한 가격 우위를 보여줍니다. 그럼에도 불구하고, 엔비디아의 Blackwell 기반 B100/B200 GPU가 상당한 성능 이점을 제공할 가능성이 있어 인텔이 경쟁 우위를 유지할 수 있을지는 아직 불확실합니다.