En el CES, NVIDIA anunció el lanzamiento de modelos base que se ejecutan localmente en PCs con NVIDIA RTX AI, mejorando humanos digitales, creación de contenido, productividad y desarrollo. Estos modelos, disponibles como microservicios NIM de NVIDIA, son acelerados por los recientemente introducidos GPUs de la Serie GeForce RTX 50. Estos GPUs, construidos sobre la arquitectura NVIDIA Blackwell, cuentan con hasta 3, 352 billones de operaciones por segundo de rendimiento en IA y 32 GB de VRAM, soportando computación FP4 para mejorar el rendimiento en inferencia de IA. Este soporte permite que los modelos de IA generativa operen localmente con una huella de memoria menor comparado con hardware anterior. La plataforma GeForce ha sido históricamente crucial para los desarrolladores de IA; más del 30% de los artículos de investigación en IA recientes mencionaron el uso de GeForce RTX. Con el auge de la IA generativa y los PCs RTX AI, nuevas herramientas de bajo código y sin código hacen que el desarrollo de IA sea accesible para más usuarios. Los microservicios NIM y los Blueprints de NVIDIA AI proporcionan flujos de trabajo sencillos y preconfigurados para aplicaciones digitales. Los fabricantes líderes de PCs están lanzando PCs NIM-ready RTX AI con estas innovaciones. NVIDIA también introdujo una línea de microservicios NIM para PCs RTX AI, desarrollada por destacados desarrolladores de modelos como Black Forest Labs y Meta. Estos microservicios soportan diversas aplicaciones en modelos de lenguaje, generación de imágenes, extracción de PDFs y visión por computadora.

Robin Rombach, CEO de Black Forest Labs, destacó la mejora en rendimiento y el acceso más amplio brindado por estos avances. Además, NVIDIA reveló la familia de modelos Llama Nemotron para tareas de IA agentica. El Llama Nemotron Nano, disponible como un microservicio NIM, se destaca en tareas como seguir instrucciones y chat. Los microservicios NIM funcionan sin problemas en los GPUs de NVIDIA, haciendo que el despliegue de IA sea sencillo. Entusiastas y desarrolladores pueden descargar y ejecutar fácilmente estos microservicios en PCs con Windows 11 usando el Subsistema de Windows para Linux (WSL). NVIDIA está optimizando estos microservicios para PCs con Windows, asegurando accesibilidad para los desarrolladores que construyen funciones de IA en sus aplicaciones. La compatibilidad de estos microservicios con los principales marcos de desarrollo de IA facilita a los desarrolladores aprovechar las últimas tecnologías. La vista previa del Proyecto R2X demuestra cómo los desarrolladores pueden crear avatares habilitados para IA usando las herramientas de NVIDIA. Las capacidades de IA generativa de NVIDIA, incluidos los nuevos Blueprints de IA, permiten a los usuarios ejecutar flujos de trabajo complejos como convertir PDFs en podcasts o guiar la creación de imágenes con activos 3D. A partir de febrero, los microservicios NIM de NVIDIA y los Blueprints de IA estarán disponibles para GPUs seleccionados de NVIDIA, con amplia disponibilidad prometida a través de varios fabricantes de PCs. Estos desarrollos destacan el liderazgo de NVIDIA en el campo en rápida evolución de la computación habilitada para IA, ofreciendo una plataforma flexible y poderosa tanto para desarrolladores como para entusiastas.