Se você está interessado em um supercomputador pessoal de IA, a Nvidia introduziu o Project Digits, com lançamento previsto para maio. No seu núcleo está o GB10 Grace Blackwell Superchip, oferecendo o poder de processamento necessário para modelos de IA sofisticados, enquanto permanece compacto o suficiente para caber em uma mesa e funcionar em uma tomada padrão — anteriormente, tal poder exigia sistemas muito maiores e intensivos em energia. Este dispositivo do tamanho de uma mesa suporta modelos de IA com até 200 bilhões de parâmetros e começa em $3. 000. Seu design se assemelha a um Mac Mini. “A IA se tornará essencial em cada aplicativo em todas as indústrias. O Project Digits, com o Grace Blackwell Superchip, traz isso para milhões de desenvolvedores, ” declarou o CEO da Nvidia, Jensen Huang.

“Proporcionar um supercomputador de IA para cientistas de dados, pesquisadores de IA e estudantes os capacita a liderar na era da IA. ” O Project Digits vem com 128GB de memória unificada (um laptop típico pode ter 16GB ou 32GB de RAM) e até 4TB de armazenamento NVMe. Para necessidades mais intensivas, dois sistemas podem se conectar para gerenciar modelos com até 405 bilhões de parâmetros, comparável ao modelo Llama 3. 1 de 405 bilhões de parâmetros da Meta. O chip GB10 oferece até 1 petaflop de desempenho em IA (equivalente a 1 quatrilhão de cálculos por segundo) em precisão FP4, otimizando a velocidade por meio de aproximações. O sistema inclui os mais recentes núcleos CUDA da Nvidia e núcleos Tensor de quinta geração, ligados via NVLink-C2C a uma CPU Grace eficiente em energia com 20 núcleos baseados em Arm, co-projetada com a MediaTek para aumentar a eficiência e o desempenho. Os usuários têm acesso ao software de IA da Nvidia, que inclui kits de desenvolvimento, ferramentas de orquestração e modelos pré-treinados disponíveis via o catálogo Nvidia NGC. Operando em Nvidia DGX OS baseado em Linux, ele suporta frameworks como PyTorch, Python e notebooks Jupyter. Os desenvolvedores podem ajustar modelos pelo framework NeMo da Nvidia e aprimorar fluxos de trabalho de ciência de dados com as bibliotecas Nvidia RAPIDS. Com o Project Digits, os usuários podem desenvolver e testar modelos de IA localmente e, em seguida, implantá-los em serviços de nuvem ou data centers usando a mesma arquitetura Grace Blackwell junto ao software Nvidia AI Enterprise. A Nvidia oferece outros dispositivos acessíveis: em dezembro, lançou uma versão de $249 do computador Jetson para tarefas de IA, voltada para entusiastas e startups, chamada Jetson Orin Nano Super, que lida com modelos com até 8 bilhões de parâmetros.