Intel oficiāli izlaidusi savu Gaudi 3 akseleratoru, kas paredzēts AI darbiem šodien. Lai gan jaunie procesori ir lēnāki nekā Nvidia plaši izmantotie H100 un H200 GPU AI un HPC lietojumiem, Intel koncentrējas uz Gaudi 3 konkurētspējīgo cenu un zemākām kopējām īpašuma izmaksām (TCO), lai nodrošinātu tā panākumus. Gaudi 3 procesoram ir divi čipleti, kuros ir 64 tensoru procesoru kodoli (TPC, izmantojot 256x256 MAC struktūru ar FP32 akumulatoriem), astoņi matricas reizināšanas dzinēji (MME - 256 bitu platuma vektoru procesori) un 96 MB uz-chip SRAM kešatmiņa ar iespaidīgu 19, 2 TB/s joslas platumu. Papildus tam Gaudi 3 ir aprīkots ar 24 200 GbE tīkla saskarnēm un 14 multimediju dzinējiem, kas spēj apstrādāt H. 265, H. 264, JPEG un VP9, tādējādi atbalstot redzes saistītus uzdevumus. Ierīce ir savienota ar 128 GB HBM2E atmiņu astoņās atmiņas kopās, nodrošinot ievērojamu 3. 67 TB/s joslas platumu. Salīdzinājumā ar tā priekšgājēju Gaudi 2, kuram ir 24 TPC, divi MME un 96 GB HBM2E atmiņa, Gaudi 3 nozīmē ievērojamu uzlabojumu. Tomēr izskatās, ka Intel ir vienkāršojusi arhitektūru, jo Gaudi 3 procesors tagad atbalsta tikai FP8 matricas operācijas un BFloat16 matricas un vektoru operācijas, izslēdzot atbalstu FP32, TF32 un FP16. Veiktspējas izteiksmē Intel apgalvo, ka Gaudi 3 var sasniegt līdz pat 1856 BF16/FP8 matricas TFLOPS un 28, 7 BF16 vektoru TFLOPS, vienlaikus darbojoties ap 600 W TDP. Papīros, salīdzinot ar Nvidia H100, Gaudi 3 uzrāda nedaudz zemāku BF16 matricas veiktspēju (1856 salīdzinājumā ar 1979 TFLOPS), pusi no FP8 matricas veiktspējas (1856 salīdzinājumā ar 3958 TFLOPS), un būtiski samazinātu BF16 vektoru veiktspēju (28, 7 salīdzinājumā ar 1979 TFLOPS). Tomēr, papildus tehniskajām specifikācijām, būtiska būs Gaudi 3 reālā veiktspēja praksē.

Tai jākonkurē ar AMD Instinct MI300 sēriju un Nvidia H100 un B100/B200 procesoriem. Šī konkurence smagi balstās uz programmatūras veiktspēju un citiem mainīgajiem lielumiem, kurus vēl nav pilnībā novērtēti. Pašlaik Intel ir dalījusies ar slaidiem, kas liecina, ka Gaudi 3 varētu nodrošināt ievērojamu cenas-pret-veiktspējas priekšrocību salīdzinājumā ar Nvidia H100. Šī gada sākumā Intel paziņoja, ka pilns akseleratora komplekts ar astoņiem Gaudi 3 procesoriem uz vienas bāzes plates tiks piedāvāts par cenu $125, 000, līdz ar to viena procesora izmaksas aptuveni $15, 625. Salīdzinājumā Nvidia H100 karte tiek pārdota par aptuveni $30, 678, ilustrējot Intel plānu, lai nodrošinātu būtisku cenas priekšrocību salīdzinājumā ar savu konkurentu. Tomēr, ar Nvidia uz Blackwell balstītajiem B100/B200 GPU, kas var piedāvāt ievērojamus veiktspējus ieguvumus, paliek šaubas vai Intel varēs saglabāt savu konkurētspēju.