На CES, NVIDIA го најави лансирањето на основните модели кои работат локално на NVIDIA RTX AI компјутери, подобрувајќи дигитални луѓе, создавање на содржини, продуктивност и развој. Овие модели, достапни како микросервиси NVIDIA NIM, се забрзани од ново воведените GeForce RTX 50 серија графички процесори (GPU). Овие GPU, изградени на архитектурата NVIDIA Blackwell, имаат до 3. 352 трилиони операции во секунда со перформанси за AI и 32 GB VRAM, поддржувајќи FP4 пресметки за подобрени перформанси на AI инференцијата. Оваа поддршка овозможува генеритивните AI модели да работат локално со помало мемориско оптоварување во споредба со претходните хардвери. Платформата GeForce историски беше клучна за AI развивачите; над 30% од неодамнешните AI истражувачки трудови го реферираа користењето на GeForce RTX. Со порастот на генеритивната AI и RTX AI компјутерите, новите алатки за ниско-код и без-код ја прават AI развојот достапен за повеќе корисници. NIM микросервисите и NVIDIA AI шемите обезбедуваат едноставни и пре-конфигурирани работни текови за дигитални апликации. Водечките производители на компјутери лансираат NIM-спремни RTX AI компјутери кои ги вклучуваат овие иновации. NVIDIA исто така претстави ланец на NIM микросервиси за RTX AI компјутери, развиени од врвни модел-развивачи како Black Forest Labs и Meta. Овие микросервиси поддржуваат разновидни апликации преку јазични модели, генерирање на слики, екстракција на PDF и компјутерска визија.

Робин Ромбах, извршен директор на Black Forest Labs, го нагласи подобрувањето на перформансите и поширокиот пристап обезбедени од овие напредоци. Дополнително, NVIDIA ги откри моделите Llama Nemotron за агентни AI задачи. Llama Nemotron Nano, достапен како NIM микросервис, се истакнува во задачи како следење на инструкции и разговор. NIM микросервисите функционираат непречено на NVIDIA графичките процесори, правејќи го AI распоредувањето едноставно. Ентузијастите и развивачите лесно можат да ги симнат и да ги користат овие микросервиси на Windows 11 компјутери користејќи го Windows Subsystem for Linux (WSL). NVIDIA ги оптимизира овие микросервиси за Windows компјутерите, обезбедувајќи достапност за развивачите кои гради AI карактеристики во нивните апликации. Компатибилноста на овие микросервиси со главните рамки за AI развој го олеснува на развивачите искористувањето на најновите технологии. Прегледот на проектот R2X демонстрира како развивачите можат да создаваат аватари со AI способности користејќи ги алатките на NVIDIA. Генеритивните AI способности на NVIDIA, вклучувајќи ги и новите AI шеми, им овозможуваат на корисниците да извршуваат сложени работни текови како што е конверзија на PDF во подкасти или водење на создавање слики со 3D ресурси. Почнувајќи од февруари, NIM микросервисите и AI шемите на NVIDIA ќе бидат достапни за одбрани NVIDIA графички процесори, со широка достапност ветена преку различни производители на компјутери. Овие развои ја истакнуваат лидерската позиција на NVIDIA во брзорастечкото поле на компјутинг опремен со AI, нудејќи флексибилна и моќна платформа за развивачите и ентузијастите.