Az Intel hivatalosan is piacra dobta ma a Gaudi 3 gyorsítóját, amely az MI feladatokra lett optimalizálva. Bár az új processzorok lassabbak, mint az Nvidia széles körben használt H100 és H200 GPU-i az MI és HPC alkalmazásokhoz, az Intel a Gaudi 3 versenyképes árazására és alacsonyabb teljes tulajdonlási költségére (TCO) épít sikerének érdekében. A Gaudi 3 processzor két chipletet tartalmaz, amelyek 64 tenzor processzormagot (TPC-k—256x256 MAC struktúrát használva FP32 akkumulátorokkal), nyolc mátrix szorzómotort (MME-k—256 bites szélességű vektor processzorok), és egy 96MB on-die SRAM cache-t, lenyűgöző 19, 2 TB/s sávszélességgel. Ezenkívül a Gaudi 3 24 db 200 GbE hálózati interfésszel és 14 média motorral rendelkezik, amelyek képesek H. 265, H. 264, JPEG és VP9 feldolgozására, így támogatják a látásalapú feladatokat. Az egység 128GB HBM2E memóriával van párosítva nyolc memória stacken, összesen 3, 67 TB/s sávszélességgel. Elődjéhez, a Gaudi 2-höz képest, amely 24 TPC-t, két MME-t és 96GB HBM2E memóriát tartalmazott, a Gaudi 3 jelentős frissítést jelent. Az Intel azonban egyszerűsítette az architektúrát, mivel a Gaudi 3 processzor már csak FP8 mátrix műveleteket és BFloat16 mátrix és vektor műveleteket támogat, megszűntetve az FP32, TF32, és FP16 támogatását. Teljesítmény tekintetében az Intel azt állítja, hogy a Gaudi 3 elérheti az 1856 BF16/FP8 mátrix TFLOPS-t és a 28, 7 BF16 vektor TFLOPS-t, miközben körülbelül 600W TDP-vel működik. Papíron összehasonlítva az Nvidia H100-zal, a Gaudi 3 kissé alacsonyabb BF16 mátrix teljesítményt mutat (1856 vs. 1979 TFLOPS), fele FP8 mátrix teljesítményt (1856 vs.

3958 TFLOPS), és jelentősen csökkent BF16 vektor teljesítményt (28, 7 vs. 1979 TFLOPS). A technikai specifikációkon túl, a Gaudi 3 valós világbeli teljesítménye lesz a lényeges. Fel kell vennie a versenyt az AMD Instinct MI300 sorozatával és az Nvidia H100 és B100/B200 processzoraival. Ez a verseny nagyban függ a szoftver teljesítményétől és egyéb változóktól, amelyek még értékelés alatt állnak. Jelenleg az Intel olyan diákat osztott meg, amelyek szerint a Gaudi 3 jelentős ár-teljesítmény arányt nyújthat az Nvidia H100-hoz képest. Az év elején az Intel bejelentette, hogy egy teljes gyorsítókészlet, amely nyolc Gaudi 3 processzort tartalmaz egyetlen alaplapon, 125 000 dollárért lesz elérhető, így az egy processzorra jutó költség körülbelül 15 625 dollár. Összehasonlításképpen, egy Nvidia H100 kártyát körülbelül 30 678 dollárért árulnak, ami az Intel jelentős árelőnyére utal a versenytársával szemben. Azonban az Nvidia Blackwell alapú B100/B200 GPU-i valószínűsíthetően jelentős teljesítmény előnyöket kínálnak majd, így kérdéses, hogy az Intel képes-e fenntartani versenyképességét.