Intel hefur opinberlega kynnt Gaudi 3-hraðaaukandi fyrir gervigreindarverkefni í dag. Þó að nýju örgjörvunum sé hægari en Nvidia's mikið notuðu H100 og H200 GPU-einingar fyrir gervigreindar og HPC-forrit, einbeitir Intel sér að samkeppnishæfu verði Gaudi 3 og lægri heildarkostnaði við eignarhald (TCO) til að ná árangri. Gaudi 3-örgjörvinn er með tvær flísheildir, sem innihalda 64 tensor ferliðskjarna (TPCs—með 256x256 MAC uppbyggingu með FP32 samsetningum), átta margföldunarvél af matrisu (MMEs—256 bita breiðir vektorferlar), og 96MB upp á flís SRAM cache með glæsilegum 19. 2 TB/s bandbreidd. Auk þess er Gaudi 3 búinn með 24 200 GbE nettengingartengjum og 14 myndavélakerfum sem geta unnið úr H. 265, H. 264, JPEG, og VP9, þar með talið sjónræn verkefni. Einingin er parað saman með 128GB af HBM2E minni yfir átta minniseiningum, sem skila miklum bandbreiddinni á 3. 67 TB/s. Samanborið við forvera sinn, Gaudi 2, sem innihélt 24 TPCs, tvö MMEs, og 96GB af HBM2E minni, þá sýnir Gaudi 3 verulega uppfærslu. En það virðist á Intel hafi einfaldað uppbygginguna, þar sem Gaudi 3-örgjörvinn styður nú aðeins FP8 matrisuaðgerðir og BFloat16 matrisu og vektor aðgerðir, og fellur niður stuðning við FP32, TF32, og FP16. Í sambandi við afköst segist Intel að Gaudi 3 geti náð allt að 1856 BF16/FP8 matrisu TFLOPS og 28. 7 BF16 vektors TFLOPS, allt á meðan virka við um 600W TDP. Á pappír, þegar samanborið við Nvidia's H100, sýnir Gaudi 3 aðeins lægri BF16 matrisu afköst (1, 856 vs. 1, 979 TFLOPS), helmingið af FP8 matrisu afköstum (1, 856 vs. 3, 958 TFLOPS), og verulega minni BF16 vektors afköst (28. 7 vs.

1, 979 TFLOPS). En, fyrir utan tæknilegar upplýsingar, er raunveruleg frammistaða Gaudi 3 mikilvæg. Það verður að mæta AMD's Instinct MI300 seríunni og Nvidia's H100 og B100/B200 örgjörvum. Þessi samkeppni hvílir að mestu leyti á hugbúnaðarafköstum og öðrum breytum, sem ekki hafa enn verið algerlega metin. Í augnablikinu hefur Intel deilt skyggnum sem benda til þess að Gaudi 3 geti skilað verulega verð-til-afköst yfirburði miðað við Nvidia's H100. Fyrir árið í lok kynnti Intel að heilt hraðaaukandi sett sem inniheldur átta Gaudi 3 örgjörva á einni grunnplötu myndi kosta $125, 000, sem gerir kostnað á örgjörva u. þ. b. $15, 625. Til samanburðar er Nvidia H100 kortið selt fyrir u. þ. b. $30, 678, sem lýsir áætlun Intel um að hafa verulegan verðsamkeppnisforskot á keppinaut sínum. Engu að síður, með Nvidia's Blackwell-byggðum B100/B200 GPU-einingum sem mögulega bjóða upp á talsverða afköstagæða, er óvíst hvort Intel getur viðhaldið sinni samkeppnisstöðu.