NVIDIA a annoncé que le cluster de superordinateurs Colossus de xAI, comprenant 100 000 GPU NVIDIA Hopper situés à Memphis, Tennessee, a atteint cette échelle en utilisant la plateforme de réseautage ethernet NVIDIA Spectrum-X™. Cette plateforme est conçue pour des performances optimales dans de grandes usines d'IA, en utilisant l'ethernet basé sur des normes pour son réseau d'accès direct à la mémoire à distance (RDMA). Colossus, désormais le plus grand supercalculateur d'IA au monde, est utilisé pour entraîner la famille Grok de modèles de langue de xAI, qui inclut des chatbots pour les abonnés X Premium. xAI prévoit d'étendre Colossus à un total de 200 000 GPU Hopper. Construit en un temps remarquable de 122 jours - une réduction significative du calendrier typique pour de tels systèmes - Colossus a commencé l'entraînement seulement 19 jours après la mise en place du premier bâti. Pendant l'entraînement du modèle Grok étendu, Colossus bénéficie de performances exceptionnelles du réseau, maintenant un débit de 95 % et aucune dégradation de la latence des applications ni perte de paquets, grâce au contrôle de congestion Spectrum-X. En revanche, l'ethernet standard lutte avec des collisions de flux, n'obtenant que 60 % du débit de données. Gilad Shainer, vice-président senior de la mise en réseau de NVIDIA, a souligné la nature critique de l'IA, nécessitant des performances améliorées, une sécurité, une évolutivité et une efficacité tarifaire, que la plateforme Spectrum-X fournit pour des innovateurs comme xAI.

Elon Musk a salué Colossus comme le "système d'entraînement le plus puissant au monde", reconnaissant les efforts de xAI et de NVIDIA. Un porte-parole de xAI a souligné que la combinaison des GPU Hopper de NVIDIA et de la technologie Spectrum-X permet un entraînement sans précédent des modèles d'IA à grande échelle. Au cœur de la plateforme Spectrum-X se trouve le commutateur ethernet Spectrum SN5600, supportant des vitesses allant jusqu'à 800 Gb/s, associé aux SuperNICs BlueField-3® de NVIDIA pour des performances améliorées. Le réseautage ethernet Spectrum-X apporte des fonctionnalités avancées précédemment associées uniquement à InfiniBand, y compris le routage adaptatif, le contrôle de congestion, et une visibilité et performances accrues pour les environnements d'IA multi-locataires. NVIDIA est leader dans le calcul accéléré, mais des déclarations prospectives sur les avantages et performances de ses technologies viennent avec des risques qui peuvent affecter les résultats réels. Des facteurs tels que les conditions économiques mondiales, la dépendance aux tiers, et la concurrence technologique peuvent affecter les résultats. NVIDIA fournit des mises à jour régulières via des dépôts auprès de la SEC. © 2024 NVIDIA Corporation. Tous droits réservés.