Na targach CES firma NVIDIA ogłosiła wprowadzenie modeli bazowych, działających lokalnie na komputerach NVIDIA RTX AI, które usprawniają cyfrowych ludzi, tworzenie treści, produktywność oraz rozwój. Modele te, dostępne jako mikrousługi NVIDIA NIM, są przyspieszane przez nowo wprowadzone GPU z serii GeForce RTX 50. Te procesory graficzne, zbudowane w oparciu o architekturę NVIDIA Blackwell, oferują do 3, 352 bilionów operacji na sekundę w zakresie wydajności AI oraz 32 GB pamięci VRAM, obsługując obliczenia FP4 dla lepszej wydajności inferencji AI. Ta obsługa umożliwia działanie generatywnych modeli AI lokalnie z mniejszym zużyciem pamięci w porównaniu do dotychczasowego sprzętu. Platforma GeForce od dawna była kluczowa dla deweloperów AI; ponad 30% ostatnich prac badawczych dotyczących AI odnosiło się do użycia GeForce RTX. Wraz z rosnącym znaczeniem generatywnej AI i komputerów RTX AI, nowe narzędzia typu low-code i no-code czynią rozwój AI bardziej dostępnym dla większej liczby użytkowników. Mikrousługi NIM i NVIDIA AI Blueprints oferują proste i skonfigurowane wcześniej przepływy pracy dla aplikacji cyfrowych. Wiodący producenci komputerów wprowadzają na rynek komputery RTX AI gotowe na NIM z tymi innowacjami. NVIDIA wprowadziła również pakiet mikrousług NIM dla komputerów RTX AI, opracowany przez czołowych deweloperów modeli, takich jak Black Forest Labs i Meta. Te mikrousługi obsługują różne aplikacje w dziedzinach takich jak modele językowe, generowanie obrazów, ekstrakcja PDF i wizyjne systemy komputerowe.

Robin Rombach, CEO Black Forest Labs, podkreślił poprawę wydajności oraz szerszy dostęp zapewniany przez te innowacje. Dodatkowo NVIDIA zaprezentowała rodzinę modeli Llama Nemotron dla zadań agentralnych AI. Llama Nemotron Nano, dostępny jako mikrousługa NIM, doskonale sprawdza się w zadaniach takich jak podążanie za instrukcjami i czatowanie. Mikrousługi NIM współpracują bezproblemowo z procesorami graficznymi NVIDIA, ułatwiając wdrażanie AI. Entuzjaści i deweloperzy mogą łatwo pobierać i uruchamiać te mikrousługi na komputerach z Windows 11 za pomocą Windows Subsystem for Linux (WSL). NVIDIA optymalizuje te mikrousługi dla komputerów z systemem Windows, zapewniając dostępność dla deweloperów budujących funkcje AI w swoich aplikacjach. Kompatybilność tych mikrousług z głównymi frameworkami do rozwoju AI ułatwia deweloperom wykorzystywanie najnowszych technologii. Podgląd Projektu R2X demonstruje, jak deweloperzy mogą tworzyć awatary z obsługą AI, korzystając z narzędzi NVIDIA. Możliwości generatywnej AI firmy NVIDIA, w tym nowe AI Blueprints, pozwalają użytkownikom wykonywać złożone przepływy pracy, takie jak przekształcanie PDF w podcasty lub kierowanie tworzeniem obrazów z zasobami 3D. Od lutego mikrousługi NVIDIA NIM i AI Blueprints będą dostępne dla wybranych procesorów graficznych NVIDIA, a ich szeroka dostępność planowana jest w ofercie różnych producentów komputerów. Te innowacje podkreślają przywództwo NVIDII w szybko rozwijającym się obszarze komputerów wspieranych AI, oferując elastyczną i potężną platformę zarówno dla deweloperów, jak i entuzjastów.