Intel on täna ametlikult turule toonud oma Gaudi 3 kiirendi, mis on suunatud tehisintellekti töökoormustele. Kuigi uued protsessorid on aeglasemad kui Nvidia laialdaselt kasutatavad H100 ja H200 GPU-d tehisintellekti ja HPC rakenduste jaoks, keskendub Intel Gaudi 3 konkurentsivõimelisele hinnale ja madalamale koguomandikulu (TCO), et tagada oma edu. Gaudi 3 protsessoril on kaks kiipi, mis sisaldavad 64 tensoori protsessorituuma (TPC-d—256x256 MAC struktuuriga ja FP32 akumulaatoritega), kaheksa maatriksi korrutamise mootorit (MME-d—256-bitised vektori protsessorid) ja 96MB sisemist SRAM vahemälu muljetavaldava 19, 2 TB/s ribalaiusega. Lisaks on Gaudi 3 varustatud 24 200 GbE võrguühenduse ja 14 meediamootoriga, mis suudavad töödelda H. 265, H. 264, JPEG ja VP9, toetades seega nägemisega seotud ülesandeid. Seade on ühendatud 128GB HBM2E mäluga üle kaheksa mälupaki, pakkudes märkimisväärset 3, 67 TB/s ribalaiust. Võrreldes oma eelkäija Gaudi 2-ga, mis sisaldab 24 TPC-d, kahte MME-d ja 96GB HBM2E mälu, tähistab Gaudi 3 märkimisväärset täiustust. Siiski tundub, et Intel on arhitektuuri lihtsustanud, kuna Gaudi 3 protsessor toetab nüüd ainult FP8 maatriksi operatsioone ja BFloat16 maatriksi ja vektori operatsioone, eemaldades FP32, TF32 ja FP16 toe. Esituse osas väidab Intel, et Gaudi 3 saavutab kuni 1856 BF16/FP8 maatriksi TFLOPS-i ja 28, 7 BF16 vektori TFLOPS-i, töötades samal ajal umbes 600W TDP juures. Paberil, võrreldes Nvidia H100-ga, näitab Gaudi 3 veidi madalamat BF16 maatriksi jõudlust (1, 856 vs. 1, 979 TFLOPS), poole väiksemat FP8 maatriksi jõudlust (1, 856 vs.

3, 958 TFLOPS) ja oluliselt vähenenud BF16 vektori jõudlust (28, 7 vs. 1, 979 TFLOPS). Kuid kaugemale tehnilistest spetsifikatsioonidest on Gaudi 3 tegelik reaalse maailma jõudlus ülioluline. See peab võistlema AMD Instinct MI300 seeria ja Nvidia H100 ja B100/B200 protsessoritega. See konkurents tugineb suuresti tarkvara jõudlusele ja muudele muutujatele, mida pole veel täielikult hinnatud. Praegu on Intel jaganud slaide, mis viitavad sellele, et Gaudi 3 võib pakkuda märkimisväärset hinna ja jõudluse suhet võrreldes Nvidia H100-ga. Selle aasta alguses teatas Intel, et täielik kiirendikomplekt, mis sisaldab kaheksat Gaudi 3 protsessorit ühel alusplaadil, maksab 125 000 dollarit, tehes protsessori hinna umbes 15 625 dollarit. Võrdluseks, Nvidia H100 kaarti müüakse umbes 30 678 dollari eest, illustreerides Inteli plaani oluliseks hinnavõiduks oma konkurendi ees. Siiski, kui Nvidia Blackwelli-põhised B100/B200 GPU-d pakuvad tõenäoliselt märkimisväärseid jõudluse eeliseid, jääb ebaselgeks, kas Intel suudab oma konkurentsieelist hoida.