Wenn Sie auf der Suche nach einem persönlichen KI-Supercomputer sind, hat Nvidia das Projekt Digits vorgestellt, das im Mai auf den Markt kommen soll. Im Zentrum steht der GB10 Grace Blackwell Superchip, der die Rechenleistung für komplexe KI-Modelle liefert, dabei jedoch kompakt genug ist, um auf einen Schreibtisch zu passen und mit einer normalen Steckdose betrieben werden kann—vorher hatten solch leistungsstarke Systeme weitaus größere, energielastigere Systeme benötigt. Dieses gerät in Desktopgröße unterstützt KI-Modelle mit bis zu 200 Milliarden Parametern und beginnt bei einem Preis von 3. 000 USD. Das Design erinnert an einen Mac Mini. „KI wird in jeder Anwendung und in allen Branchen unverzichtbar werden. Projekt Digits, mit dem Grace Blackwell Superchip, bringt dies zu Millionen von Entwicklern“, erklärte Nvidia-CEO Jensen Huang.

„Einen KI-Supercomputer für Datenwissenschaftler, KI-Forscher und Studenten bereitzustellen, ermöglicht es ihnen, in der KI-Ära führend zu sein. “ Projekt Digits verfügt über 128 GB einheitlichen Speicher (ein typischer Laptop hat möglicherweise 16 GB oder 32 GB RAM) und bis zu 4 TB NVMe-Speicher. Für intensivere Anforderungen können zwei Systeme verbunden werden, um Modelle mit bis zu 405 Milliarden Parametern zu verwalten, vergleichbar mit Metas 405-Milliarden-Parameter-Modell Llama 3. 1. Der GB10-Chip bietet bis zu 1 Petaflop an KI-Leistung (entspricht 1 Billiarde Berechnungen pro Sekunde) bei FP4-Genauigkeit, optimiert die Geschwindigkeit durch Näherungen. Das System beinhaltet Nvidias neueste CUDA-Cores und fünfte Generation der Tensor Cores, die über NVLink-C2C mit einer energieeffizienten Grace CPU mit 20 Arm-basierten Kernen verbunden sind, die zusammen mit MediaTek entwickelt wurden, um Effizienz und Leistung zu steigern. Nutzer erhalten Zugang zu Nvidias KI-Software, die Entwicklungskits, Orchestrierungstools und vortrainierte Modelle umfasst, die über den Nvidia NGC-Katalog verfügbar sind. Es läuft auf dem Linux-basierten Nvidia DGX OS und unterstützt Frameworks wie PyTorch, Python und Jupyter Notebooks. Entwickler können Modelle mit dem NeMo-Framework von Nvidia feinabstimmen und Datenwissenschafts-Workflows mit Nvidia RAPIDS-Bibliotheken verbessern. Mit Projekt Digits können Benutzer KI-Modelle lokal entwickeln und testen und diese dann in Cloud-Diensten oder Rechenzentren mithilfe der gleichen Grace Blackwell-Architektur zusammen mit der Nvidia AI Enterprise-Software bereitstellen. Nvidia bietet auch andere zugängliche Geräte an: Im Dezember hat das Unternehmen eine Version des Jetson-Computers für KI-Aufgaben zum Preis von 249 USD eingeführt, die auf Hobbyisten und Startups abzielt, genannt Jetson Orin Nano Super, welches Modelle mit bis zu 8 Milliarden Parametern verarbeiten kann.