Heute erleben wir einen spannenden Trend mit der rasanten Expansion und Verfügbarkeit von KI-basierten Anwendungen auf verschiedenen Edge-Geräten. Da die KI voranschreitet, ist es unerlässlich, KI-Forschern, Datenwissenschaftlern, Entwicklern und Studenten Zugang zu Hochleistungsrechnern zu bieten, um fortschrittliche Modelle, wie solche für Sprache, Vision oder multimodale Anwendungen, zu entwickeln oder auszuführen. Das schnelle Tempo der KI-Innovation erfordert breiten Zugang zu leistungsstarken Ressourcen, die über die Cloud hinaus direkt am Edge und in den Händen der Entwickler liegen. NVIDIAs Durchbruch in Richtung dieser Vision ist Project DIGITS, ein persönlicher KI-Supercomputer, angekündigt von NVIDIAs Gründer und CEO Jensen Huang auf der CES 2025. Dieses Linux-basierte System, das mit Arm-betriebenen CPU-Kernen ausgestattet ist, bietet jedem KI-Entwickler ein Hochleistungssystem direkt auf dem Schreibtisch. Angetrieben vom NVIDIA GB10 Grace Blackwell Superchip, kombiniert es die NVIDIA Grace CPU und Blackwell GPU mit den neuesten CUDA-Kernen, RT-Cores und 128 GB einheitlichem Speicher über die NVIDIA NVLink-Verbindung. Die Konfiguration bietet eine bemerkenswerte Petaflop-Performance bei FP4-Genauigkeit, die es Entwicklern ermöglicht, große KI-Modelle zusammen mit Cloud-Ressourcen oder Rechenzentren zu prototypisieren, fein abzustimmen und zu inferieren. Die Nutzung der Arm-Compute-Plattform ermöglicht es neuen KI-Modellen, effizient am Edge zu arbeiten. Diese Plattform ist zentral für heutige Edge-Geräte und zielt auf hochleistungsfähige Marktanteile ab, wie im Project DIGITS.

Diese Technologien sind auf optimale Leistung und Effizienz über Anwendungen hinweg zugeschnitten. Im Project DIGITS arbeiten die Arm-basierte CPU und GPU zusammen, um unterschiedliche Arbeitslasten abzudecken, was für maximale KI-Performance unerlässlich ist, während der Speicherverbrauch und der Energieverbrauch verwaltet werden. Ashish Karandikar, VP of SoC Products bei NVIDIA, betont, dass die Zusammenarbeit mit Arm am GB10 Superchip die KI-Innovation beschleunigt, indem NVIDIAs KI-Fähigkeiten mit Arm's skalierbarer Compute-Plattform zusammengeführt werden, um jedem KI-Entwickler und Forscher mächtige Rechenleistung zugänglich zu machen. Für Entwickler ist eine vollständig integrierte Hardware- und Software-KI-Plattform entscheidend. Project DIGITS nutzt das Linux-System und eine umfassende NVIDIA-KI-Softwarebibliothek, die Entwickler bei der Weiterentwicklung ihrer KI-Workflows unterstützt. Die gemeinsame Plattformarchitektur zwischen Arm-Rechenzentren und Edge-Umgebungen ermöglicht es Entwicklern, konsistente Tools für die Erstellung von KI-Anwendungen nahtlos zu nutzen. Mit über 20 Millionen Entwicklern, die auf Arms Plattform aufbauen, innoviert die Open-Source-Community schnell. Als führende Rechenplattform der Welt für KI ermöglicht die Eignung von Arm für den in Project DIGITS verwendeten GB10 Superchip die Handhabung von KI-Modellen mit bis zu 200 Milliarden Parametern, wodurch die Fähigkeiten für Millionen von Entwicklern weltweit erweitert werden. In Zusammenarbeit mit NVIDIA legt dies den Grundstein für eine neue Welle revolutionärer KI-Anwendungen.