Jeśli szukasz osobistego superkomputera AI, Nvidia wprowadziła Project Digits, którego premiera odbędzie się w maju. W jego sercu znajduje się superchip GB10 Grace Blackwell, zapewniający moc obliczeniową niezbędną do zaawansowanych modeli AI, a jednocześnie na tyle kompaktowy, by zmieścić się na biurku i działać na standardowym gniazdku zasilania — wcześniej taka moc wymagała znacznie większych, energochłonnych systemów. To urządzenie, wielkości blatu biurka, obsługuje modele AI z maksymalnie 200 miliardami parametrów i kosztuje od 3000 dolarów. Jego design przypomina Mac Mini. „AI stanie się niezbędnym elementem każdej aplikacji w różnych branżach. Project Digits, z superchipem Grace Blackwell, przynosi to milionom deweloperów, ” powiedział CEO Nvidia Jensen Huang.

„Zapewnienie superkomputera AI dla naukowców zajmujących się danymi, badaczy AI i studentów umożliwia im wiodącą rolę w erze AI. ” Project Digits ma 128 GB zunifikowanej pamięci (typowy laptop może mieć 16 GB lub 32 GB RAM) oraz do 4 TB pamięci NVMe. Dla bardziej intensywnych potrzeb można połączyć dwa systemy, aby zarządzać modelami z maksymalnie 405 miliardami parametrów, porównywalnymi z 405-miliardowym modelem Llama 3. 1 Meta. Chip GB10 oferuje do 1 petaflopa wydajności AI (co odpowiada 1 kwadrylionowi obliczeń na sekundę) przy precyzji FP4, optymalizując szybkość poprzez aproksymacje. System zawiera najnowsze rdzenie CUDA Nvidii i piątej generacji rdzenie Tensor, połączone przez NVLink-C2C z energooszczędnym procesorem Grace o 20 rdzeniach opartych na architekturze Arm, współprojektowanym z MediaTek w celu zwiększenia efektywności i wydajności. Użytkownicy uzyskują dostęp do oprogramowania AI Nvidii, które obejmuje zestawy programistyczne, narzędzia orkiestracyjne i modele wstępnie przeszkolone dostępne w katalogu Nvidia NGC. Działa na systemie operacyjnym Nvidia DGX opartym na Linuksie, wspiera frameworki takie jak PyTorch, Python i Jupyter notebooks. Programiści mogą dostrajać modele dzięki frameworkowi NeMo Nvidii i ulepszać przepływy pracy w nauce o danych przy użyciu bibliotek Nvidia RAPIDS. Dzięki Project Digits użytkownicy mogą lokalnie rozwijać i testować modele AI, a następnie wdrażać je do usług w chmurze lub centrów danych, korzystając z tej samej architektury Grace Blackwell wraz z oprogramowaniem Nvidia AI Enterprise. Nvidia oferuje inne dostępne urządzenia: w grudniu wprowadziła na rynek wersję komputera Jetson do zadań AI za 249 dolarów, skierowaną do hobbystów i startupów, nazwaną Jetson Orin Nano Super, która obsługuje modele z maksymalnie 8 miliardami parametrów.