Intel je danes uradno lansiral svoj pospeševalnik Gaudi 3, namenjen nalogam AI. Čeprav so novi procesorji počasnejši od Nvidijinih pogosto uporabljenih H100 in H200 GPU-jev za AI in HPC aplikacije, se Intel osredotoča na konkurenčno ceno Gaudi 3 in nižje skupne stroške lastništva (TCO) za njegovo uspešnost. Procesor Gaudi 3 vsebuje dva čipleta, ki vključujeta 64 jeder tenzorskega procesorja (TPC-jev – uporabljajo strukturo 256x256 MAC z akumulatorji FP32), osem motorjev za matrično množenje (MME-jev – 256-bitni široki vektorski procesorji) in 96MB vgrajenega SRAM predpomnilnika z impresivno pasovno širino 19, 2 TB/s. Poleg tega je Gaudi 3 opremljen z 24 omrežnimi vmesniki 200 GbE in 14 medijskimi motorji, ki lahko obdelujejo H. 265, H. 264, JPEG in VP9, s čimer podpira naloge, povezane z vizijo. Enota je povezana s 128GB HBM2E pomnilnika preko osmih skladov pomnilnika in zagotavlja veliko pasovno širino 3, 67 TB/s. V primerjavi s svojim predhodnikom, Gaudi 2, ki vključuje 24 TPC-jev, dva MME-ja in 96GB HBM2E pomnilnika, Gaudi 3 predstavlja opazno nadgradnjo. Vendar pa se zdi, da je Intel poenostavil arhitekturo, saj procesor Gaudi 3 zdaj podpira samo matrične operacije FP8 in BFloat16 ter operacije vektorja, pri čemer odpravlja podporo za FP32, TF32 in FP16. Kar zadeva zmogljivost, Intel trdi, da lahko Gaudi 3 doseže do 1856 BF16/FP8 matričnih TFLOPS in 28, 7 BF16 vektorskih TFLOPS, pri čemer deluje pri približno 600W TDP. Na papirju, v primerjavi z Nvidia H100, Gaudi 3 kaže nekoliko nižjo zmogljivost BF16 matrice (1, 856 proti 1, 979 TFLOPS), polovično zmogljivost FP8 (1, 856 proti 3, 958 TFLOPS) in znatno zmanjšano zmogljivost BF16 vektorjev (28, 7 proti 1, 979 TFLOPS). Vendar pa bo poleg tehničnih specifikacij ključna dejanska zmogljivost Gaudi 3 v resničnem svetu.

Soočiti se mora z AMD-jevo serijo Instinct MI300 in Nvidia-jevimi H100 ter B100/B200 procesorji. Ta konkurenca močno sloni na zmogljivosti programske opreme in drugih spremenljivkah, ki še niso popolnoma ocenjene. Trenutno je Intel delil diapozitive, ki nakazujejo, da bi Gaudi 3 lahko zagotovil znatno prednost v razmerju med ceno in zmogljivostjo v primerjavi z Nvidia H100. V začetku tega leta je Intel objavil, da bo komplet za pospeševanje, ki vključuje osem procesorjev Gaudi 3 na eni osnovni plošči, stal 125. 000 $, kar pomeni, da je strošek na procesor približno 15. 625 $. V primerjavi, Nvidia H100 kartica se prodaja za približno 30. 678 $, kar prikazuje Intelov načrt za znatno cenovno prednost pred tekmecem. Vendar pa z Nvidia-jevimi Blackwell-osnovanimi B100/B200 GPU-ji, ki potencialno ponujajo znatne zmogljivostne prednosti, ostaja negotovo, ali lahko Intel ohrani svojo konkurenčno prednost.