A la CES, NVIDIA va anunciar el llançament de models de base que funcionen localment en ordinadors NVIDIA RTX AI, millorant els humans digitals, la creació de continguts, la productivitat i el desenvolupament. Aquests models, disponibles com a microserveis NVIDIA NIM, són accelerats per les noves GPU GeForce RTX 50 Series introduïdes recentment. Aquestes GPU, construïdes amb l'arquitectura NVIDIA Blackwell, ofereixen fins a 3. 352 bilions d'operacions per segon de rendiment d'IA i 32 GB de VRAM, donant suport al càlcul FP4 per a una millor rendiment d'inferència d'IA. Aquest suport permet que els models d'IA generativa puguin operar localment amb una petjada de memòria més petita en comparació amb el maquinari anterior. La plataforma GeForce històricament ha estat crucial per als desenvolupadors d'IA; més del 30% de les recents publicacions de recerca en IA van referenciar l'ús de GeForce RTX. Amb l'ascens de l'IA generativa i els ordinadors RTX AI, noves eines de baix codi i sense codi fan que el desenvolupament d'IA sigui accessible per a més usuaris. Els microserveis NIM i els NVIDIA AI Blueprints proporcionen fluxos de treball senzills i preconfigurats per a aplicacions digitals. Els principals fabricants de PC estan llançant ordinadors RTX AI preparats per a NIM amb aquestes innovacions. NVIDIA també va introduir una línia de microserveis NIM per a ordinadors RTX AI, desenvolupats pels millors desenvolupadors de models com Black Forest Labs i Meta. Aquests microserveis admeten diverses aplicacions en models de llenguatge, generació d'imatges, extracció de PDF i visió per computador.

Robin Rombach, CEO de Black Forest Labs, va destacar la millora en rendiment i l'accés ampliat que proporcionen aquests avenços. Addicionalment, NVIDIA va revelar la família de models Llama Nemotron per a tasques d'IA agentica. El Llama Nemotron Nano, disponible com a microservei NIM, excel·leix en tasques com seguir instruccions i xatejar. Els microserveis NIM funcionen sense problemes a través de les GPUs NVIDIA, facilitant el desplegament d'IA. Els entusiastes i desenvolupadors poden descarregar i executar fàcilment aquests microserveis en PCs amb Windows 11 utilitzant el Subsistema Windows per a Linux (WSL). NVIDIA està optimitzant aquests microserveis per a PCs amb Windows, garantint accessibilitat per als desenvolupadors que construeixen funcions d'IA en les seves aplicacions. La compatibilitat d'aquests microserveis amb els principals marcs de desenvolupament d'IA fa més fàcil per als desenvolupadors aprofitar les últimes tecnologies. La vista prèvia del Projecte R2X demostra com els desenvolupadors poden crear avatars habilitats per IA utilitzant les eines de NVIDIA. Les capacitats d'IA generativa de NVIDIA, incloent-hi nous AI Blueprints, permeten als usuaris executar fluxos de treball complexos com convertir PDFs en podcasts o guiar la creació d'imatges amb actius 3D. A partir de febrer, els microserveis NVIDIA NIM i els AI Blueprints estaran disponibles per a GPU NVIDIA seleccionades, amb una disponibilitat àmplia promesa a través de diversos fabricants de PC. Aquests desenvolupaments destaquen el lideratge de NVIDIA en el camp en ràpida evolució de la computació habilitada per IA, oferint una plataforma flexible i potent tant per a desenvolupadors com per a entusiastes.