اینتل امروز رسماً شتاب‌دهنده Gaudi 3 خود را که هدف آن بارهای پردازشی هوش مصنوعی است، معرفی کرد. در حالی که پردازنده‌های جدید کندتر از GPUهای H100 و H200 انویدیا هستند که به طور گسترده در برنامه‌های هوش مصنوعی و HPC استفاده می‌شوند، اینتل بر قیمت رقابتی Gaudi 3 و هزینه کل مالکیت (TCO) پایین‌تر آن تمرکز کرده است تا موفقیت آن را افزایش دهد. پردازنده Gaudi 3 دارای دو چیپلت است که 64 هسته پردازشگر تانسور (TPCها—با استفاده از ساختار MAC 256x256 با تجمع‌کننده‌های FP32)، هشت موتور ضرب ماتریسی (MMEها—پردازشگرهای برداری 256 بیتی) و یک حافظه کش SRAM 96MB درون‌ریزی با پهنای باند 19. 2 ترابایت در ثانیه را در خود جای می‌دهد. علاوه بر این، Gaudi 3 مجهز به 24 رابط شبکه 200 گیگابیت اترنت و 14 موتور رسانه‌ای است که قادر به پردازش H. 265، H. 264، JPEG و VP9 هستند و از وظایف مرتبط با بینایی پشتیبانی می‌کنند. این واحد با 128 گیگابایت حافظه HBM2E در هشت پشته حافظه ترکیب شده است و پهنای باند 3. 67 ترابایت در ثانیه را فراهم می‌کند. در مقایسه با نسل قبلی خود، Gaudi 2 که شامل 24 TPC، دو MME و 96 گیگابایت حافظه HBM2E است، Gaudi 3 یک ارتقاء قابل توجه را نشان می‌دهد. با این حال، به نظر می‌رسد که اینتل معماری را ساده کرده است، زیرا پردازنده Gaudi 3 اکنون فقط از عملیات ماتریسی FP8 و عملیات ماتریس و برداری BFloat16 پشتیبانی می‌کند و پشتیبانی از FP32، TF32 و FP16 را حذف کرده است. از نظر عملکرد، اینتل ادعا می‌کند که Gaudi 3 می‌تواند تا 1856 TFLOPS ماتریسی BF16/FP8 و 28. 7 TFLOPS برداری BF16 را بدست آورد، در حالی که در حدود 600 وات TDP عمل می‌کند. روی کاغذ، در مقایسه با H100 انویدیا، Gaudi 3 عملکردی کمی پایین‌تر در ماتریس BF16 (1, 856 در مقابل 1, 979 TFLOPS)، نصف عملکرد ماتریس FP8 (1, 856 در مقابل 3, 958 TFLOPS) و عملکرد برداری BF16 بسیار کمتر (28. 7 در مقابل 1, 979 TFLOPS) دارد. با این حال، فراتر از مشخصات فنی، عملکرد واقعی Gaudi 3 در دنیای واقعی بسیار مهم خواهد بود.

این پردازنده باید با سری Instinct MI300 ای ام دی و پردازنده‌های H100 و B100/B200 انویدیا رقابت کند. این رقابت به شدت بر عملکرد نرم‌افزار و سایر متغیرهایی که هنوز به طور کامل ارزیابی نشده‌اند، وابسته است. در حال حاضر، اینتل اسلایدهایی را به اشتراک گذاشته است که نشان می‌دهند Gaudi 3 ممکن است برتری قابل توجهی در نسبت قیمت به عملکرد نسبت به H100 انویدیا ارائه دهد. در اوایل سال جاری، اینتل اعلام کرد که یک کیت کامل شتاب‌دهنده شامل هشت پردازنده Gaudi 3 روی یک پایه واحد به قیمت 125, 000 دلار، به ازای هر پردازنده تقریباً 15, 625 دلار قیمت خواهد داشت. در مقایسه، یک کارت H100 انویدیا حدوداً 30, 678 دلار به فروش می‌رسد، که برنامه اینتل برای برتری قیمت رقابتی مهم نسبت به رقیب خود را نشان می‌دهد. با این حال، با در نظر گرفتن اینکه GPUهای مبتنی بر Blackwell انویدیا احتمالاً مزایای عملکرد قابل توجهی ارائه می‌دهند، هنوز مشخص نیست که آیا اینتل می‌تواند مزیت رقابتی خود را حفظ کند یا خیر.