तुम्ही वैयक्तिक AI सुपरकंप्युटरसाठी बाजारात असाल, तर Nvidia ने प्रोजेक्ट डिजिट्स सुरू केली आहे, जी मे महिन्यात लाँच होणार आहे. याच्या मूळ भागामध्ये GB10 ग्रेस ब्लॅकवेल सुपरचिप आहे, जी प्रगत AI मॉडेल्ससाठी आवश्यक प्रोसेसिंग ताकद प्रदान करते आणि डेस्कवर बसू शकते आणि सामान्य पॉवर ऑउटलेटवर चालू शकते — याआधी, अशा शक्तीसाठी खूप मोठी, ऊर्जा-ग्रहण करणारी प्रणाली आवश्यक होती. हे डेस्कटॉप आकाराचे उपकरण AI मॉडेल्सना 200 अब्ज पॅरामीटर्स पर्यंत समर्थन देते आणि $3, 000 पासून सुरू होते. त्याची रचना मॅक मिनी सारखी दिसते. “AI प्रत्येक अनुप्रयोगात आणि सर्व उद्योगांमध्ये आवश्यक होईल. ग्रेस ब्लॅकवेल सुपरचिपसह प्रोजेक्ट डिजिट्स हे लाखो विकसकांसाठी आणते, ” असे Nvidia च्या सीईओ जेन्सेन हुआंग म्हणाले.

“डेटा सायंटिस्ट्स, AI संशोधक आणि विद्यार्थ्यांना AI युगात आघाडी घेण्यासाठी AI सुपरकंप्युटर प्रदान करणे हे सशक्त बनवते. ” प्रोजेक्ट डिजिट्समध्ये 128GB एकसंघ मेमरी आहे (सामान्य लॅपटॉपमध्ये 16GB किंवा 32GB RAM असू शकते) आणि 4TB पर्यंत NVMe स्टोरेज आहे. अधिक तीव्र गरजांसाठी, दोन प्रणाली 405 अब्ज पॅरामीटर्ससह मॉडेल्सचे व्यवस्थापन करण्यासाठी लिंक केल्या जाऊ शकतात, जे मेता च्या 405-बिलियन पॅरामीटर लामा 3. 1 मॉडेलशी तुलना करता येते. GB10 चिप 1 पेटाफ्लॉप पर्यंत AI कामगिरी करते (प्रत्येक सेकंदाला 1 क्वॉड्रिलियन गणना) FP4 प्रिसिजनवर, वेगाला अंदाजित करून ऑप्टिमाइज करते. प्रणाली Nvidia च्या नवीनतम CUDA कोर्स आणि पाचव्या-पिढीच्या टेन्सर कोर्सचा समावेश करते, जे MediaTek सह सह-डिझाइन केलेल्या 20 आर्म-आधारित कोर्सांसह ऊर्जा कार्यक्षम ग्रेस CPU ला जोडलेले आहेत, कार्यक्षमता वाढवण्यासाठी आणि कामगिरी वाढवण्यासाठी. वापरकर्त्यांना Nvidia च्या AI सॉफ्टवेअरचा प्रवेश मिळतो, ज्यात विकास किट, ऑर्केस्ट्रेशन टूल्स, आणि Nvidia NGC कॅटलॉगद्वारे पूर्व-प्रशिक्षित मॉडेल्स उपलब्ध आहेत. लिनक्स-आधारित Nvidia DGX OS वर कार्य करतो, जो PyTorch, Python आणि Jupyter नोटबुक सारख्या फ्रेमवर्कला समर्थन देतो. विकसकांनी Nvidia च्या NeMo फ्रेमवर्कद्वारे मॉडेल्स फाइन-ट्यून करू शकतात आणि Nvidia RAPIDS लायब्ररींनी डेटा विज्ञान वर्कफ्लो सुधारू शकतात. प्रोजेक्ट डिजिट्ससह, वापरकर्ते AI मॉडेल्स स्थानिकपणे विकसित आणि चाचणी करू शकतात आणि नंतर Nvidia AI एंटरप्रायझ सॉफ्टवेअरसह क्लाउड सेवा किंवा डेटा सेंटरमध्ये त्याच ग्रेस ब्लॅकवेल आर्किटेक्चरसह तैनात करू शकतात. Nvidia इतर सुलभ उपकरणे देखील देते: डिसेंबरमध्ये, त्याने $249 किंमतीचे जेटसन संगणकाचे AI कार्यांसाठी एक आवृत्ती लॉन्च केले, जे हौशी व्यक्ती आणि स्टार्टअप्ससाठी लक्षित आहे, ज्याला जेटसन ओरिन नॅनो सुपर म्हणतात, जे 8 अब्ज पॅरामीटर्स पर्यंत मॉडेल्स हाताळू शकते.