Auf der CES kündigte NVIDIA die Einführung von Foundation-Modellen an, die lokal auf NVIDIA RTX AI-PCs laufen und digitale Menschen, Content-Erstellung, Produktivität und Entwicklung verbessern. Diese Modelle, die als NVIDIA NIM-Microservices verfügbar sind, werden durch die neu eingeführten GeForce RTX 50 Series GPUs beschleunigt. Diese GPUs, die auf der NVIDIA Blackwell-Architektur basieren, bieten bis zu 3. 352 Billionen Operationen pro Sekunde an KI-Leistung und 32 GB VRAM und unterstützen FP4-Computing für verbesserte KI-Inferenzleistung. Diese Unterstützung ermöglicht es generativen KI-Modellen, lokal mit einem kleineren Speicherbedarf im Vergleich zu früherer Hardware zu laufen. Die GeForce-Plattform war historisch gesehen entscheidend für KI-Entwickler; über 30 % der aktuellen AI-Forschungspapiere bezogen sich auf die Nutzung von GeForce RTX. Mit dem Aufstieg von generativer KI und RTX AI-PCs machen neue Low-Code- und No-Code-Tools die KI-Entwicklung für mehr Benutzer zugänglich. NIM-Microservices und NVIDIA AI-Blueprints bieten einfache und vorkonfigurierte Workflows für digitale Anwendungen. Führende PC-Hersteller bringen NIM-fähige RTX AI-PCs mit diesen Innovationen auf den Markt. NVIDIA stellte außerdem eine Pipeline von NIM-Microservices für RTX AI-PCs vor, die von führenden Modellentwicklern wie Black Forest Labs und Meta entwickelt wurden. Diese Microservices unterstützen verschiedene Anwendungen in den Bereichen Sprachmodelle, Bildgenerierung, PDF-Extraktion und Computer Vision.

Robin Rombach, CEO von Black Forest Labs, betonte die Leistungsverbesserung und den breiteren Zugang, den diese Fortschritte bieten. Darüber hinaus enthüllte NVIDIA die Llama Nemotron-Familie von Modellen für agentische KI-Aufgaben. Das Llama Nemotron Nano, verfügbar als NIM-Microservice, zeichnet sich bei Aufgaben wie Anweisungsbefolgung und Chat aus. NIM-Microservices funktionieren nahtlos auf NVIDIA-GPUs, was den Einsatz von KI einfach macht. Enthusiasten und Entwickler können diese Microservices problemlos auf Windows 11-PCs mit dem Windows Subsystem für Linux (WSL) herunterladen und ausführen. NVIDIA optimiert diese Microservices für Windows-PCs, um Entwicklern den Zugang zu erleichtern, KI-Funktionen in ihre Anwendungen einzubauen. Die Kompatibilität dieser Microservices mit wichtigen KI-Entwicklungsframeworks erleichtert es Entwicklern, die neuesten Technologien zu nutzen. Das Projekt R2X-Demonstrationsvorschau zeigt, wie Entwickler KI-gestützte Avatare mit den Tools von NVIDIA erstellen können. Die generativen KI-Funktionen von NVIDIA, einschließlich neuer AI-Blueprints, ermöglichen es Benutzern, komplexe Workflows wie das Konvertieren von PDFs in Podcasts oder das Leiten der Bildschöpfung mit 3D-Assets auszuführen. Ab Februar werden NVIDIA NIM-Microservices und AI-Blueprints für ausgewählte NVIDIA-GPUs verfügbar sein, wobei eine breite Verfügbarkeit über verschiedene PC-Hersteller versprochen wird. Diese Entwicklungen unterstreichen NVIDIAs Führungsrolle im sich schnell entwickelnden Bereich des KI-gestützten Computings und bieten eine flexible und leistungsstarke Plattform sowohl für Entwickler als auch für Enthusiasten.