På CES kunngjorde NVIDIA lanseringen av fundamentmodeller som kjører lokalt på NVIDIA RTX AI-PC-er, og forbedrer digitale mennesker, innholdsproduksjon, produktivitet og utvikling. Disse modellene, tilgjengelig som NVIDIA NIM mikrotjenester, er akselerert av de nylig introduserte GeForce RTX 50 Series GPU-ene. GPU-ene, bygget på NVIDIA Blackwell-arkitekturen, har opptil 3, 352 billioner operasjoner per sekund i AI-ytelse og 32GB VRAM, og støtter FP4 beregning for forbedret AI-inferens ytelse. Denne støtten gjør det mulig for generative AI-modeller å operere lokalt med et mindre minneavtrykk sammenlignet med tidligere maskinvare. GeForce-plattformen har historisk sett vært avgjørende for AI-utviklere; over 30 % av nyere AI-forskningsartikler refererte til bruk av GeForce RTX. Med fremveksten av generative AI og RTX AI-PC-er, gjør nye lavkode- og kodeløse verktøy AI-utvikling tilgjengelig for flere brukere. NIM mikrotjenester og NVIDIA AI Blueprints gir enkle og forhåndskonfigurerte arbeidsflyter for digitale applikasjoner. Ledende PC-produsenter lanserer NIM-klar RTX AI-PC-er med disse innovasjonene. NVIDIA introduserte også en rekke NIM mikrotjenester for RTX AI-PC-er, utviklet av toppmodelutviklere som Black Forest Labs og Meta. Disse mikrotjenestene støtter ulike applikasjoner innen språkmodeller, bildegenerering, PDF-ekstraksjon og datamaskinvisjon.

Robin Rombach, administrerende direktør i Black Forest Labs, understreket ytelsesforbedringen og bredere tilgang gitt av disse fremskrittene. I tillegg avslørte NVIDIA Llama Nemotron-familien av modeller for agentiske AI-oppgaver. Llama Nemotron Nano, tilgjengelig som en NIM mikrotjeneste, utmerker seg i oppgaver som instruksjonsfølging og chat. NIM mikrotjenester fungerer sømløst på tvers av NVIDIA-GPUer, noe som gjør AI-distribusjon enkelt. Entusiaster og utviklere kan enkelt laste ned og kjøre disse mikrotjenestene på Windows 11-PC-er ved hjelp av Windows Subsystem for Linux (WSL). NVIDIA optimaliserer disse mikrotjenestene for Windows-PC-er, og sikrer tilgjengelighet for utviklere som bygger AI-funksjoner inn i sine applikasjoner. Kompatibiliteten til disse mikrotjenestene med store AI-utviklingsrammeverk gjør det enklere for utviklere å utnytte den nyeste teknologien. Forhåndsvisningen av Project R2X demonstrerer hvordan utviklere kan lage AI-aktiverte avatarer ved å bruke NVIDIA-verktøy. NVIDIAs generative AI-egenskaper, inkludert nye AI Blueprints, lar brukere utføre komplekse arbeidsflyter som å konvertere PDF-filer til podcaster eller veilede bildegenerering med 3D-objekter. Fra og med februar vil NVIDIA NIM mikrotjenester og AI Blueprints være tilgjengelige for utvalgte NVIDIA GPU-er, med bred tilgjengelighet lovet på tvers av ulike PC-produsenter. Disse utviklingene fremhever NVIDIAs lederskap innen det raskt utviklende feltet AI-aktivert databehandling, og tilbyr en fleksibel og kraftig plattform for både utviklere og entusiaster.