NVIDIA heeft aangekondigd dat de Colossus-supercomputercluster van xAI, met 100. 000 NVIDIA Hopper GPU's in Memphis, Tennessee, deze schaal heeft bereikt met het NVIDIA Spectrum-X™ Ethernet-netwerkplatform. Dit platform is ontworpen voor optimale prestaties in grote AI-fabrieken en maakt gebruik van op standaarden gebaseerde Ethernet voor zijn Remote Direct Memory Access (RDMA) netwerk. Colossus, nu 's werelds grootste AI-supercomputer, wordt gebruikt bij het trainen van xAI’s Grok-familie van grote taalmodellen, waaronder chatbots voor X Premium-abonnees. xAI is van plan om Colossus uit te breiden tot in totaal 200. 000 Hopper GPU's. Gemaakt in opmerkelijke 122 dagen - een significante vermindering ten opzichte van de gebruikelijke tijdlijn voor dergelijke systemen - begon Colossus met trainen slechts 19 dagen nadat het eerste rek was opgezet. Tijdens het trainen van het uitgebreide Grok-model ervaart Colossus uitzonderlijke netwerkprestaties, met behoud van 95% doorvoer zonder enige verslechtering van de applicatielatentie of pakketverlies, dankzij Spectrum-X congestiebeheersing. Daarentegen heeft standaard Ethernet moeite met stroomcollisies, waarbij slechts 60% gegevensdoorgang wordt bereikt. Gilad Shainer, NVIDIA's senior vice-president van netwerken, benadrukte de kritieke aard van AI, die verbeterde prestaties, beveiliging, schaalbaarheid en kostenefficiency vereist, die het Spectrum-X platform biedt voor innovators zoals xAI.

Elon Musk prees Colossus als het 'krachtigste trainingssysteem ter wereld' en erkende de inspanningen van xAI en NVIDIA. Een xAI-woordvoerder benadrukte dat de combinatie van NVIDIA's Hopper GPU's en Spectrum-X technologie ongekend trainen van AI-modellen op grote schaal mogelijk maakt. Centraal in het Spectrum-X platform staat de Spectrum SN5600 Ethernet-switch, die snelheden tot 800Gb/s ondersteunt, gekoppeld aan NVIDIA’s BlueField-3® SuperNICs voor verbeterde prestaties. Het Spectrum-X Ethernet-netwerk brengt geavanceerde functies die eerder alleen aan InfiniBand werden toegeschreven, zoals adaptieve routering, congestiebeheersing, en verbeterde zichtbaarheid en prestaties voor multi-tenant AI-omgevingen. NVIDIA leidt in versnelde computing, maar toekomstgerichte verklaringen over de voordelen en prestaties van haar technologieën gaan gepaard met risico's die de uiteindelijke resultaten kunnen beïnvloeden. Factoren zoals mondiale economische omstandigheden, afhankelijkheid van derden en technologische concurrentie kunnen de resultaten beïnvloeden. NVIDIA verstrekt regelmatige updates via SEC-aanmeldingen. © 2024 NVIDIA Corporation. Alle rechten voorbehouden.