NVIDIA ha anunciat que el clúster de superordinadors Colossus de xAI, que compta amb 100. 000 GPUs NVIDIA Hopper ubicades a Memphis, Tennessee, ha assolit aquesta escala utilitzant la plataforma de xarxa Ethernet NVIDIA Spectrum-X™. Aquesta plataforma està dissenyada per obtenir el rendiment òptim en grans fàbriques d'IA, utilitzant Ethernet estàndard per a la seva xarxa d'Accés Directe a Memòria Remota (RDMA). Colossus, ara el superordinador d'IA més gran del món, s'empra per entrenar la família de grans models de llenguatge Grok de xAI, que inclou xatbots per als subscriptors de X Premium. xAI planeja expandir Colossus a un total de 200. 000 GPUs Hopper. Construït en uns impressionants 122 dies—una reducció significativa respecte a la línia de temps típica per a aquests sistemes—Colossus va començar a entrenar només 19 dies després d'instal·lar-se el primer bastidor. Durant l'entrenament del model Grok extens, Colossus experimenta un rendiment excepcional de xarxa, mantenint un rendiment del 95% i zero degradació de latència d'aplicació o pèrdua de paquets, gràcies al control de congestió de Spectrum-X. En canvi, l'Ethernet estàndard té dificultats amb les col·lisions de flux, aconseguint només el 60% de rendiment de dades. Gilad Shainer, vicepresident sènior de xarxes de NVIDIA, va subratllar la naturalesa crítica de l'IA, que requereix un rendiment, seguretat, escalabilitat i eficiència de costos millorats, que la plataforma Spectrum-X proporciona als innovadors com xAI.

Elon Musk va elogiar Colossus com el "sistema d'entrenament més potent del món", reconeixent els esforços de xAI i NVIDIA. Un portaveu de xAI va destacar que la combinació de les GPUs Hopper de NVIDIA i la tecnologia Spectrum-X permet un entrenament sense precedents de models d'IA a gran escala. Element central de la plataforma Spectrum-X és el commutador Ethernet Spectrum SN5600, que suporta velocitats de fins a 800 Gb/s, juntament amb les SuperNICs BlueField-3® de NVIDIA per a un rendiment millorat. La xarxa Ethernet Spectrum-X porta característiques avançades prèviament associades només amb InfiniBand, incloent-hi el ruteig adaptatiu, el control de congestió i la visibilitat i rendiment millorats per a entorns d'IA multillogater. NVIDIA lidera en el càlcul accelerat, però les declaracions prospectives sobre els beneficis i rendiment de les seves tecnologies venen amb riscos que poden afectar els resultats reals. Factors com les condicions econòmiques globals, la dependència de terceres parts i la competència tecnològica poden afectar els resultats. NVIDIA ofereix actualitzacions regulars mitjançant presentacions a la SEC. © 2024 NVIDIA Corporation. Tots els drets reservats.