Intel on virallisesti lanseerannut Gaudi 3 -kiihdyttimensä, joka on suunnattu tekoälytehtäville. Vaikka uudet prosessorit ovat hitaampia kuin Nvidian laajalti käytetyt H100- ja H200-GPU:t tekoäly- ja HPC-sovelluksissa, Intel keskittyy Gaudi 3:n kilpailukykyiseen hinnoitteluun ja alhaisempiin kokonaiskustannuksiin (TCO) menestyksen saavuttamiseksi. Gaudi 3 -prosessorissa on kaksi sirua, joissa on 64 tensoriprosessoriydintä (TPC:t, käyttämällä 256x256 MAC -rakennetta FP32-akumulaattoreilla), kahdeksan matriisikertolaskumoottoria (MME:t, 256-bittisiä vektoriprosessoreita) ja 96MB on-die SRAM -välimuistia, jonka kaistanleveys on vaikuttava 19, 2 TB/s. Lisäksi Gaudi 3:een on liitetty 24 200 GbE -verkkokäyttöliittymää ja 14 mediakonetta, jotka pystyvät käsittelemään H. 265-, H. 264-, JPEG- ja VP9-mediakoodekkeja, ja tukevat siten visuaalisia tehtäviä. Yksikkö on varustettu 128GB:n HBM2E-muistilla kahdeksan muistipinon kautta, ja kokonaiskaistanleveys on 3, 67 TB/s. Verrattuna edeltäjäänsä, Gaudi 2:een, jossa oli 24 TPC:tä, kaksi MME:tä ja 96GB HBM2E-muistia, Gaudi 3 edustaa merkittävää päivitystä. Näyttää kuitenkin siltä, että Intel on yksinkertaistanut arkkitehtuuria, sillä Gaudi 3 tukee nyt vain FP8-matriisitoimintoja ja BFloat16-matriisi- ja vektoritoimintoja, eikä enää tue FP32-, TF32- ja FP16-toimintoja. Suorituskyvyn osalta Intel väittää, että Gaudi 3 voi saavuttaa jopa 1856 BF16/FP8 matriisi-TFLOPia ja 28, 7 BF16 vektori-TFLOPia, samalla kun se toimii noin 600W TDP:llä. Paperilla verrattuna Nvidian H100:een, Gaudi 3 osoittaa hieman alhaisempaa BF16-matriisisuorituskykyä (1856 vs. 1979 TFLOPia), puolet FP8-matriisisuorituskyvystä (1856 vs.

3958 TFLOPia) ja merkittävästi pienempiä BF16-vektorisuorituskykyä (28, 7 vs. 1979 TFLOPia). Kuitenkin teknisten tietojen lisäksi Gaudi 3:n todellinen suorituskyky reaalimaailmassa tulee olemaan ratkaiseva. Sen on kilpailtava AMD:n Instinct MI300 -sarjan ja Nvidian H100- ja B100/B200-prosessorien kanssa. Tämä kilpailu riippuu suuresti ohjelmistosuorituskyvystä ja muista muuttujista, joita ei ole vielä täysin arvioitu. Tällä hetkellä Intel on jakanut dioja, joissa ehdotetaan, että Gaudi 3 saattaa tarjota huomattavan hinta-suorituskykysuhteen verrattuna Nvidian H100:een. Aiemmin tänä vuonna Intel ilmoitti, että täysi kiihdytysjärjestelmä, joka sisältää kahdeksan Gaudi 3 -prosessorin yksikköä yhdellä emolevyllä, hinnoitellaan 125 000 dollariksi, jolloin kustannus per prosessori on noin 15 625 dollaria. Vertailun vuoksi, Nvidia H100 -korttia myydään noin 30 678 dollarilla, mikä havainnollistaa Intelin suunnitelmaa saavuttaa merkittävä hinnoitteluetu kilpailijaansa nähden. Kuitenkin Nvidian Blackwell-pohjaisten B100/B200 GPU:iden mahdollisesti tarjoamat huomattavat suorituskykyedut tekevät epävarmaksi, voiko Intel ylläpitää kilpailuetunsa.