Kişisel bir AI süper bilgisayarı arayışındaysanız, Nvidia'nın Mayıs ayında piyasaya süreceği Project Digits'e göz atabilirsiniz. Projenin kalbinde, sofistike AI modelleri için gerekli işlem gücünü sağlayan, aynı zamanda bir masanın üzerinde durabilecek kadar kompakt ve standart bir prizde çalışabilecek GB10 Grace Blackwell Süperçipi bulunuyor. Daha önce, bu güç daha büyük ve enerji yoğun sistemler gerektiriyordu. Masaüstü boyutundaki bu cihaz, 200 milyar parametreye kadar AI modellerini destekliyor ve fiyatı 3. 000 dolardan başlıyor. Tasarımı, Mac Mini'ye benziyor. "AI, tüm endüstrilerdeki her uygulamada olmazsa olmaz hale gelecek. Grace Blackwell Süperçipi ile Project Digits, milyonlarca geliştiriciye bunu sunuyor, " dedi Nvidia CEO'su Jensen Huang.

"Veri bilimcileri, AI araştırmacıları ve öğrencilerin AI çağında liderlik etmelerine güç veren bir AI süper bilgisayarı sağlamak onlara güç katıyor. " Project Digits, 128GB birleşik bellek (tipik bir dizüstü bilgisayar 16GB veya 32GB RAM'e sahip olabilir) ve 4TB'a kadar NVMe depolama alanı sunar. Daha yoğun ihtiyaçlar için, iki sistem 405 milyar parametreye kadar modelleri yönetmek üzere birleştirilebilir, bu Meta'nın 405 milyar parametreli Llama 3. 1 modeli ile karşılaştırılabilir. GB10 çipi, FP4 hassasiyetinde saniyede 1 katrilyon hesaplama eşdeğeri olan 1 petaflop AI performansı sunar, hız tahminlerle optimize edilmiştir. Sistem, Nvidia'nın en yeni CUDA çekirdeklerini ve beşinci nesil Tensor Çekirdeklerini içerir ve Mediatek ile ortaklaşa tasarlanan, verimlilik ve performansı artırmak için güç tasarruflu Grace CPU'ya 20 Arm tabanlı çekirdekle NVLink-C2C aracılığıyla bağlıdır. Kullanıcılar, Nvidia NGC kataloğundan erişilebilen geliştirme kitleri, orkestrasyon araçları ve önceden eğitilmiş modeller dahil olmak üzere Nvidia’nın AI yazılımına erişir. Linux tabanlı Nvidia DGX OS üzerinde çalışan sistem, PyTorch, Python ve Jupyter not defterleri gibi çerçeveleri destekler. Geliştiriciler, Nvidia’nın NeMo çerçevesi ile modelleri ince ayar yapabilir ve Nvidia RAPIDS kütüphaneleri ile veri bilimi iş akışlarını geliştirebilirler. Project Digits ile kullanıcılar AI modellerini yerel olarak geliştirebilir ve test edebilir, ardından aynı Grace Blackwell mimarisi ve Nvidia AI Enterprise yazılımı ile bulut hizmetlerine veya veri merkezlerine dağıtabilirler. Nvidia, diğer erişilebilir cihazlar da sunar: Aralık ayında, hobiler ve girişimler için AI görevlerinde kullanılmak üzere 8 milyar parametreli modelleri işleyebilen, 249 dolarlık Jetson bilgisayar versiyonu Jetson Orin Nano Super'ı piyasaya sürdü.