Si vous cherchez un superordinateur IA personnel, Nvidia a lancé le projet Digits, prévu pour mai. Au cœur de ce projet se trouve le Superchip GB10 Grace Blackwell, offrant la puissance de traitement nécessaire pour des modèles IA sophistiqués tout en étant assez compact pour tenir sur un bureau et fonctionner avec une prise électrique standard—auparavant, une telle puissance nécessitait des systèmes beaucoup plus grands et énergivores. Cet appareil de la taille d'un bureau prend en charge des modèles IA allant jusqu'à 200 milliards de paramètres et débute à 3 000 $. Son design ressemble à celui d'un Mac Mini. « L'IA deviendra essentielle dans toutes les applications et industries. Le projet Digits, avec le Superchip Grace Blackwell, apporte cela à des millions de développeurs », a déclaré Jensen Huang, PDG de Nvidia. « Fournir un superordinateur IA aux data scientists, chercheurs en IA et étudiants les habilite à mener à bien l’ère de l'IA.

» Le projet Digits est doté de 128 Go de mémoire unifiée (un ordinateur portable typique pourrait avoir 16 Go ou 32 Go de RAM) et jusqu'à 4 To de stockage NVMe. Pour des besoins plus intensifs, deux systèmes peuvent être reliés pour gérer des modèles allant jusqu'à 405 milliards de paramètres, comparable au modèle Llama 3. 1 de Meta avec ses 405 milliards de paramètres. Le processeur GB10 offre jusqu'à 1 pétaflop de performance IA (équivalent à 1 quadrillion de calculs par seconde) en précision FP4, optimisant la vitesse grâce à des approximations. Le système inclut les derniers cœurs CUDA de Nvidia et des Tensor Cores de cinquième génération, reliés via NVLink-C2C à un processeur Grace économe en énergie avec 20 cœurs basés sur l'architecture Arm, co-conçu avec MediaTek pour améliorer efficacité et performance. Les utilisateurs ont accès au logiciel IA de Nvidia, incluant des kits de développement, outils d'orchestration et modèles pré-entraînés disponibles via le catalogue Nvidia NGC. Fonctionnant sur le système d'exploitation Nvidia DGX basé sur Linux, il prend en charge des frameworks comme PyTorch, Python et les carnets Jupyter. Les développeurs peuvent affiner les modèles grâce au framework NeMo de Nvidia et améliorer les flux de travail de data science avec les bibliothèques RAPIDS de Nvidia. Avec le projet Digits, les utilisateurs peuvent développer et tester des modèles IA localement, puis les déployer sur des services cloud ou des centres de données en utilisant la même architecture Grace Blackwell aux côtés du logiciel Nvidia AI Enterprise. Nvidia propose d'autres appareils accessibles : en décembre, il a lancé une version à 249 $ de l’ordinateur Jetson pour les tâches d’IA, destiné aux amateurs et aux startups, appelée le Jetson Orin Nano Super, qui gère des modèles jusqu'à 8 milliards de paramètres.