ઇન્ટેલે આજે AI વર્કલોડ માટે એમનું Gaudi 3 આકસીલરેટર સરકારી રીતે લોન્ચ કર્યું છે. જ્યારે નવા પ્રોસેસર્સ Nvidia ના વ્યાપકપણે વપરાતા H100 અને H200 GPUs માટે AI અને HPC એપ્લિકેશન્સ કરતા ધીમા છે, ત્યારે ઇન્ટેલે Gaudi 3 ની સ્પર્ધાત્મક કિંમત અને નીચા કુલ માલિકી ખર્ચો (TCO) ઉપર ફોકસ કર્યું છે તેના સફળતા માટે. Gaudi 3 પ્રોસેસરમાં બે ચોક્સેટ્સ છે, જે 64 ટેંસર પ્રોસેસર કોડ્સ (TPCs—FP32 એક્યૂમ્યુલેટર્સ સાથે 256x256 MAC શાખાની ઉપયોગ કરતી) ધરાવે છે, આઠ મેટ્રિક્સ મલ્ટિપ્લિકેશન એન્જિન્સ (MMEs—256-બિટ પહોળા વેક્ટર પ્રોસેસર્સ), અને 96MB નો ઓન-ડાય SRAM કેશ સાથે 19. 2 TB/sની આકર્ષક બેન્ડવિડ્થ ધરાવે છે. ઉપરાંત, Gaudi 3 માં 24 200 GbE નેટવર્કિંગ ઇંટરફેસ અને 14 મીડિયા એન્જિન્સ કે જે H. 265, H. 264, JPEG, અને VP9ને પ્રોસેસ કરી શક્તા છે, જેથી વિઝન સંબંધિત કાર્યોને સહકાર મળે છે. આ યુનિટ 128GB HBM2E મેમોરી સાથે જોડાયેલ છે, જે આઠ મેમોરી સ્ટેક્સમાં વિવિધ છે, 3. 67 TB/s ની મહત્વપૂર્ણ બેન્ડવિડ્થ સાથે. તેના પૂર્વજ Gaudi 2 ની સરખામણીમાં, જેમાં 24 TPCs, બે MMEs, અને 96GB HBM2E મેમોરી છે, Gaudi 3 સાચું અપગ્રેડ દર્શાવે છે. હલકો કે, Intel એ આર્કિટેક્ચરને સરળ બનાવી દીધી છે, કારણ કે Gaudi 3 પ્રોસેસર હવે માત્ર FP8 મેટ્રિક્સ ઓપરેશન્સ અને BFloat16 મેટ્રિક્સ અને વેક્ટર ઓપરેશન્સને સપોર્ટ કરે છે, FP32, TF32, અને FP16 ના સપોર્ટને દૂર કરીને. પ્રદર્શનની દષ્ટિએ, ઇન્ટેલ દાવો કરે છે કે Gaudi 3 1856 BF16/FP8 મેટ્રિક્સ TFLOPS અને 28. 7 BF16 વેક્ટર TFLOPS સુધી પહોંચે છે, બધું 600W TDP ઉપર ઑપરેટ કરે છે. કાગળ પર, જો Nvidia નાં H100 સાથે સરખામણી કરવામાં આવે તો, Gaudi 3 થોડી નીચી BF16 મેટ્રિક્સ પ્રદર્શન (1, 856 અને 1, 979 TFLOPS), અડધી FP8 મેટ્રિક્સ પ્રદર્શન (1, 856 અને 3, 958 TFLOPS), અને ઘણી ઓછી BF16 વેક્ટર પ્રદર્શન (28. 7 ને 1, 979 TFLOPS) દર્શાવે છે. હાલ કે, ટેકનિકલ સ્પેસિફિકેશનોની પરવાનગી, Gaudi 3 નું વાસ્તવિક કાર્યક્ષમ પ્રદર્શન અત્યંત મહત્ત્વપૂર્ણ રહેશે.

તેને AMD ના Instinct MI300 શ્રેણી અને Nvidia ના H100 અને B100/B200 પ્રોસેસર્સ સાથે સ્પર્ધા કરવી પડશે. આ સ્પર્ધા સોફ્ટવેર પ્રદર્શન અને અન્ય પરિવારો ઉપર ખરાબ અસર કરે છે, જે હજુ સુધી પૂરેપુરી રીતે મૂલ્યાયન કરવામાં નથી આવ્યા. હાલમાં, ઇન્ટેલે શેર સ્લાઇડ્સ સૂચવ્યું છે કે Gaudi 3 Nvidia ના H100 ના મુકાબલે મર્યાદિત કિંમતથી જ પ્રદાન કરી શકે છે. આ વર્ષની શરૂઆતમાં, ઇન્ટેલે જાહેરાત કરી કે આઠ Gaudi 3 પ્રોસેસર્સવાળા એક પૂર્ણ આકસીલરેટર કિટનો કિમત $125, 000 હશે, જે હિસાબે દરેક પ્રોસેસરનો ખર્ચ લગભગ $15, 625 થાય છે. સરખામણીમાં, Nvidia H100 કાર્ડ લગભગ $30, 678 માં વેચાઈ રહ્યો છે, જે ઇન્ટેલનો ઉપયોગમાં ખૂબ મોટો કિંમતનો ફેર આપે છે તેની યોજના દર્શાવે છે. છતાં, Nvidia ની બ્લેકવેલ આધારિત B100/B200 GPUs શક્ય તીહાંને ખૂબ મોટો પ્રદર્શન લાભ મેળવી શકે, જેથી ઇન્ટેલ પોતાનો સ્પર્ધાત્મક લાભ ટકી શકે તે ખરી કે નહીં તે અસ્પષ્ટ રહે છે.