Сьогодні компанія Intel офіційно запустила свій прискорювач Gaudi 3, націлений на робочі навантаження штучного інтелекту. Хоча нові процесори працюють повільніше, ніж широко використовувані для застосунків ШІ та HPC графічні процесори H100 і H200 від Nvidia, Intel зосереджується на конкурентоспроможній ціні Gaudi 3 та нижчій загальній вартості володіння (TCO), щоб забезпечити його успіх. Процесор Gaudi 3 оснащений двома чиппетами, які містять 64 ядра тензорних процесорів (TPCs—використовуючи структуру 256x256 MAC з акумуляторами FP32), вісім двигунів матричного множення (MMEs—векторні процесори шириною 256 біт) і 96MB накільцевої пам'яті (SRAM) з вражаючою пропускною здатністю 19, 2 TB/s. Крім того, Gaudi 3 оснащений 24 мережевими інтерфейсами 200 GbE і 14 медіа-двигунами, здатними обробляти H. 265, H. 264, JPEG та VP9, що підтримують завдання з обробки зображень. Пристрій оснащений 128GB HBM2E пам'яті через вісім стеки пам'яті, забезпечуючи значну пропускну здатність 3, 67 TB/s. Порівняно зі своїм попередником Gaudi 2, який містить 24 TPCs, два MMEs та 96GB HBM2E пам'яті, Gaudi 3 означає значний апгрейд. Однак здається, що Intel спростила архітектуру, оскільки процесор Gaudi 3 тепер підтримує лише матричні операції FP8 та BFloat16, виключаючи підтримку FP32, TF32 та FP16. З точки зору продуктивності, Intel стверджує, що Gaudi 3 може досягати до 1856 BF16/FP8 матричних TFLOPS та 28, 7 BF16 векторних TFLOPS, працюючи приблизно при 600W TDP. За показниками на папері, порівняно з Nvidia H100, Gaudi 3 демонструє трохи нижчу продуктивність матриці BF16 (1, 856 проти 1, 979 TFLOPS), половину продуктивності матриці FP8 (1, 856 проти 3, 958 TFLOPS) та значно знижену продуктивність вектора BF16 (28, 7 проти 1, 979 TFLOPS). Однак, крім технічних характеристик, фактична реальна продуктивність Gaudi 3 буде вирішальною.

Йому доведеться змагатися з процесорами AMD Instinct MI300 серії та Nvidia H100 і B100/B200. Ця конкуренція багато в чому залежить від продуктивності програмного забезпечення та інших змінних, які ще повинні бути повністю оцінені. Наразі Intel поділилася слайдами, які свідчать, що Gaudi 3 може забезпечити значну перевагу за ціною до продуктивності порівняно з Nvidia H100. На початку цього року Intel оголосила, що повний набір прискорювачів, що включає в себе вісім процесорів Gaudi 3 на одній базовій платі, коштуватиме 125 000 доларів, що робить вартість одного процесора приблизно 15 625 доларів. У порівнянні, карта Nvidia H100 продається приблизно за 30 678 доларів, що ілюструє план Intel забезпечити значну цінову перевагу над своїм конкурентом. Проте, з урахуванням того, що процесори Nvidia на базі Blackwell B100/B200 можуть забезпечити значні вигоди в продуктивності, залишається невідомим, чи зможе Intel зберегти свою конкурентну перевагу.