I dag er vi vitne til en spennende trend med rask utvidelse og tilgjengelighet av AI-baserte applikasjoner på ulike kant-enheter. Etterhvert som AI utvikler seg, er det essensielt å gi AI-forskere, dataforskere, utviklere og studenter tilgang til høyytelsesdatabehandling for å utvikle eller kjøre avanserte modeller, slik som for språk, visjon eller multimodale applikasjoner. Den raske takten i AI-innovasjon krever bred tilgang til ytelsesevner utover skyen, direkte ved kanten og i utviklernes hender. NVIDIAs gjennombrudd mot denne visjonen er Project DIGITS, en personlig AI-superdatamaskin kunngjort av NVIDIAs grunnlegger og administrerende direktør Jensen Huang på CES 2025. Dette Linux-baserte systemet, utstyrt med Arm-drevne CPU-kjerner, tilbyr hver AI-utvikler et høyytelsessystem rett på skrivebordet. Drevet av NVIDIA GB10 Grace Blackwell Superchip, kombinerer den NVIDIA Grace CPU og Blackwell GPU med de nyeste CUDA-kjernene, RT-kjernene og 128GB med enhetlig minne via NVIDIA NVLink-forbindelsen. Oppsettet har en bemerkelsesverdig petaflop ytelse ved FP4-presisjon, noe som gjør det mulig for utviklere å prototype, finjustere og kjøre inferenser med store AI-modeller i samarbeid med skyressurser eller datasentre. Bruken av Arm compute-plattformen gjør at nye AI-modeller kan utføre effektivt ved kanten. Denne plattformen er sentral for dagens kant-enheter og sikter mot høyytelses markedsinntredener, slik som i Project DIGITS.

Disse teknologiene er skreddersydd for optimal ytelse og effektivitet på tvers av applikasjoner. I Project DIGITS samarbeider den Arm-baserte CPUen og TPUen for å dekke varierte arbeidsoppgaver, essensielt for høyeste AI-ytelse samtidig som den håndterer minnebruk og strømkonsumtion. Ashish Karandikar, VP for SoC Products hos NVIDIA, understreker at samarbeidet med Arm på GB10 Superchip akselererer AI-innovasjon ved å flette NVIDIAs AI-kompetanse med Arms skalerbare compute-plattform, noe som nå gjør kraftig databehandling tilgjengelig for enhver AI-utvikler og forsker. For utviklere er det viktig å ha en fullstendig integrert maskinvare- og programvareplattform for AI. Project DIGITS bruker Linux-systemet og et omfattende NVIDIA AI-programvarebibliotek, som støtter utviklere i å fremme sine AI-arbeidsflyter. Den felles plattformarkitekturen mellom Arms datasentre og kantmiljøer gjør det mulig for utviklere å bruke konsistente verktøy for AI-applikasjonsoppretting sømløst. Med over 20 millioner utviklere som bygger på Arms plattform, innoverer open-source-samfunnet raskt. Som verdens ledende compute-plattform for AI, gjør Arms egnethet for GB10 Superchip brukt i Project DIGITS det i stand til å håndtere AI-modeller opp til 200 milliarder parametere, og utvider kapasitetene for millioner av utviklere over hele verden. I samarbeid med NVIDIA legger dette grunnlaget for en ny bølge av revolusjonære AI-applikasjoner.