Intel a lansat oficial astăzi acceleratorul Gaudi 3 destinat aplicatiilor AI. Deși noile procesoare sunt mai lente decât GPU-urile H100 și H200 de la Nvidia, utilizate pe scară largă pentru aplicații AI și HPC, Intel se concentrează pe prețul competitiv al Gaudi 3 și pe costul total de proprietate (TCO) mai scăzut pentru a-și conduce succesul. Procesorul Gaudi 3 dispune de două chipleturi care găzduiesc 64 de nuclee de procesare tensorială (TPC-uri—utilizând o structură MAC 256x256 cu acumulatoare FP32), opt motoare de multiplicare matricială (MME-uri—procesoare vectoriale de 256 biți) și o memorie cache SRAM de 96MB pe cip cu o impresionantă lățime de bandă de 19. 2 TB/s. În plus, Gaudi 3 este echipat cu 24 de interfețe de rețea de 200 GbE și 14 motoare media capabile să proceseze H. 265, H. 264, JPEG și VP9, sprijinind astfel sarcinile legate de viziune. Unitatea este asociată cu 128GB de memorie HBM2E prin opt stive de memorie, oferind o lățime de bandă substanțială de 3. 67 TB/s. Comparativ cu predecesorul său, Gaudi 2, care include 24 de TPC-uri, două MME-uri și 96GB de memorie HBM2E, Gaudi 3 semnifică un upgrade notabil. Totuși, se pare că Intel a simplificat arhitectura, deoarece procesorul Gaudi 3 acum suportă doar operațiuni matriciale FP8 și BFloat16 și operațiuni vectoriale, eliminând suportul pentru FP32, TF32 și FP16. În termeni de performanță, Intel susține că Gaudi 3 poate atinge până la 1856 TFLOPS BF16/FP8 matrițe și 28. 7 TFLOPS vectoriale BF16, în timp ce operează la aproximativ 600W TDP. Pe hârtie, comparativ cu H100 de la Nvidia, Gaudi 3 prezintă o performanță matrițială BF16 puțin mai mică (1856 vs. 1979 TFLOPS), jumătate din performanța matrițială FP8 (1856 vs.

3958 TFLOPS) și o performanță vectorială BF16 semnificativ redusă (28. 7 vs. 1979 TFLOPS). Cu toate acestea, dincolo de specificațiile tehnice, performanța reală a Gaudi 3 în lumea reală va fi crucială. Trebuie să concureze cu seria Instinct MI300 de la AMD și procesoarele H100 și B100/B200 de la Nvidia. Această competiție se bazează în mare măsură pe performanța software și alte variabile, care încă nu au fost pe deplin evaluate. În prezent, Intel a prezentat slide-uri sugerând că Gaudi 3 poate oferi un avantaj substanțial în raportul preț-performanță comparativ cu H100 de la Nvidia. La începutul acestui an, Intel a anunțat că un kit complet de accelerare care include opt procesoare Gaudi 3 pe un singur panou de bază ar avea un preț de 125. 000 de dolari, făcând ca costul per procesor să fie de aproximativ 15. 625 de dolari. În comparație, o placă H100 de la Nvidia se vinde pentru aproximativ 30. 678 de dolari, ilustrând planul Intel de a avea un avantaj substanțial de preț față de concurentul său. Cu toate acestea, având în vedere că GPU-urile B100/B200 bazate pe Blackwell de la Nvidia ar putea oferi beneficii considerabile de performanță, rămâne incert dacă Intel poate susține acest avantaj competitiv.