Di CES, NVIDIA mengumumkan pelancaran model asas yang berjalan secara lokal pada PC NVIDIA RTX AI, mempertingkatkan manusia digital, penciptaan kandungan, produktiviti, dan pembangunan. Model-model ini, tersedia sebagai mikroservis NVIDIA NIM, dipercepatkan oleh GPU GeForce RTX 50 Series yang baru diperkenalkan. GPU ini, dibina di atas seni bina NVIDIA Blackwell, memiliki sehingga 3, 352 trilion operasi sesaat prestasi AI dan 32GB VRAM, menyokong pengiraan FP4 untuk prestasi inferens AI yang dipertingkatkan. Sokongan ini membolehkan model AI generatif beroperasi secara lokal dengan jejak memori yang lebih kecil berbanding perkakasan sebelumnya. Platform GeForce secara sejarahnya penting untuk pembangun AI; lebih 30% kertas penyelidikan AI terkini merujuk kepada penggunaan GeForce RTX. Dengan kebangkitan AI generatif dan PC NVIDIA RTX AI, alat low-code dan no-code terbaru menjadikan pembangunan AI lebih mudah diakses oleh lebih ramai pengguna. Mikroservis NIM dan Pelan Tindakan AI NVIDIA menyediakan alur kerja yang mudah dan telah prakonfigurasi untuk aplikasi digital. Pengilang PC terkemuka melancarkan PC RTX AI yang siap NIM dengan ciri-ciri inovasi ini. NVIDIA juga memperkenalkan pipeline mikroservis NIM untuk PC RTX AI, dibangunkan oleh pembangun model terkemuka seperti Black Forest Labs dan Meta. Mikroservis ini menyokong pelbagai aplikasi merentas model bahasa, penjanaan imej, ekstraksi PDF, dan visi komputer.

Robin Rombach, CEO Black Forest Labs, menekankan peningkatan prestasi dan akses yang lebih luas disediakan oleh kemajuan ini. Selain itu, NVIDIA mendedahkan keluarga model Llama Nemotron untuk tugas AI agentik. Llama Nemotron Nano, tersedia sebagai mikroservis NIM, cemerlang dalam tugas seperti pengikut arahan dan chat. Mikroservis NIM berfungsi dengan lancar merentas GPU NVIDIA, menjadikan penerapan AI mudah. Penggemar dan pembangun boleh memuat turun dan menjalankan mikroservis ini dengan mudah pada PC Windows 11 menggunakan Windows Subsystem for Linux (WSL). NVIDIA sedang mengoptimumkan mikroservis ini untuk PC Windows, memastikan kebolehaksesan untuk pembangun membina ciri AI ke dalam aplikasi mereka. Keserasian mikroservis ini dengan rangka kerja pembangunan AI utama menjadikannya lebih mudah untuk pembangun memanfaatkan teknologi terkini. Pratonton Project R2X menunjukkan bagaimana pembangun boleh mencipta avatar berkemampuan AI menggunakan alat-alat NVIDIA. Keupayaan AI generatif NVIDIA, termasuk Pelan Tindakan AI baharu, membolehkan pengguna melaksanakan alur kerja kompleks seperti menukar PDF kepada podcast atau membimbing penciptaan imej dengan aset 3D. Bermula pada Februari, mikroservis NIM dan Pelan Tindakan AI NVIDIA akan tersedia untuk GPU NVIDIA terpilih, dengan ketersediaan luas dijanjikan merentasi pelbagai pengeluar PC. Kemajuan ini menonjolkan kepimpinan NVIDIA dalam bidang pengkomputeran berkemampuan AI yang pesat berkembang, menawarkan platform yang fleksibel dan berkuasa untuk kedua-dua pembangun dan penggemar.