Intel imezindua rasmi kichapu cha Gaudi 3 kilicholengwa kwa mzigo wa kazi za AI leo. Ingawa wasindikaji wapya ni polepole kuliko GPU za Nvidia H100 na H200 zinazotumika sana kwa programu za AI na HPC, Intel inazingatia bei shindani ya Gaudi 3 na gharama ya chini ya jumla ya umiliki (TCO) ili kufanikisha mafanikio yake. Prosesa ya Gaudi 3 ina vipande viwili vya chip, ambavyo vina nyumba za kimsingi za muundo wa tensor (TPC—kutumia muundo wa MAC wa 256x256 na FP32), injini nane za kuzidisha matriki (MME—wasindikaji wa vector wa biti 256), na 96MB ya cache ya SRAM kwenye chip yenye upana wa 19. 2 TB/s. Zaidi ya hayo, Gaudi 3 inakuja na interfaces 24 za mtandao za 200 GbE na injini 14 za media zinazoweza kusindika H. 265, H. 264, JPEG, na VP9, hivyo kusaidia kazi zinazohusiana na maono. Kipimo kimeunganishwa na 128GB ya kumbukumbu ya HBM2E katika stack 8 za kumbukumbu, ikitoa upana wa kipimo cha 3. 67 TB/s. Ikilinganishwa na mtangulizi wake, Gaudi 2, ambaye ni pamoja na TPC 24, MME mbili, na 96GB ya kumbukumbu ya HBM2E, Gaudi 3 inaashiria uboreshaji mkubwa. Hata hivyo, inaonekana kwamba Intel imeyeyusha usanifu, kwani prosesa ya Gaudi 3 sasa inasaidia tu shughuli za matriki za FP8 na BFloat16, ikiondoa msaada kwa FP32, TF32, na FP16. Kuhusu utendaji, Intel inadai Gaudi 3 inaweza kufikia hadi 1856 BF16/FP8 matriki TFLOPS na 28. 7 BF16 vector TFLOPS, yote ikifanya kazi kwa takriban 600W TDP. Kwenye karatasi, ikilinganishwa na H100 ya Nvidia, Gaudi 3 inaonyesha utendaji wa chini kidogo wa matriki za BF16 (1, 856 dhidi ya 1, 979 TFLOPS), nusu ya utendaji wa matriki za FP8 (1, 856 dhidi ya 3, 958 TFLOPS), na utendaji wa kihistoria wa vector za BF16 uliopungua sana (28. 7 dhidi ya 1, 979 TFLOPS). Hata hivyo, zaidi ya vipimo vya kiufundi, utendaji halisi wa Gaudi 3 katika ulimwengu halisi utakuwa muhimu.

Inapaswa kushindana na mfululizo wa Instinct MI300 wa AMD na wasindikaji wa H100 na B100/B200 wa Nvidia. Ushindani huu unategemea sana utendaji wa programu na vigezo vingine, ambavyo bado havijakaguliwa kikamilifu. Kwa sasa, Intel imeshiriki slaidi zinazoonyesha kuwa Gaudi 3 inaweza kutoa faida kubwa ya bei kwa utendaji ikilinganishwa na H100 ya Nvidia. Mapema mwaka huu, Intel ilitangaza kwamba kifurushi kamili cha kichapu kinachojumuisha prosesa nane za Gaudi 3 kwenye bodi moja ya msingi kingekuwa na bei ya $125, 000, ikifanya gharama kwa prosesa kuwa takriban $15, 625. Kwa kulinganisha, kadi ya H100 ya Nvidia inauzwa kwa takriban $30, 678, ikionyesha mpango wa Intel wa kuwa na bei shindani kubwa dhidi ya mshindani wake. Hata hivyo, kwa GPU za Nvidia zilizo msingi wa Blackwell B100/B200 zinaweza kutoa faida kubwa za utendaji, bado haijulikani ikiwa Intel inaweza kudumisha faida yake ya ushindani.