NVIDIA teatas, et xAI Colossus superarvutiklaster, kus on 100 000 NVIDIA Hopper GPU-d, mis asuvad Memphises, Tennessees, saavutas selle mastaabi kasutades NVIDIA Spectrum-X™ Etherneti võrguplatvormi. See platvorm on loodud suurte tehisintellekti tehaste tõhusa toimimise tagamiseks, kasutades oma kaugjuurdepääsu (RDMA) võrgu jaoks Etherneti standardeid. Colossus, maailma suurim tehisintellekti superarvuti, on kasutusel xAI Grok suure keelemudeli koolitamiseks, mis sisaldab vestlusrobotit X Premiumi abonentidele. xAI plaanib laiendada Colossust kokku 200 000 Hopper GPU-ni. Colossus ehitati hämmastavalt 122 päevaga, märkimisväärselt kiiremini kui selliste süsteemide tavapärane ajakava, ning hakkas treenima juba 19 päeva pärast esimese raki paigaldamist. Ulatusliku Grok mudeli treeningute ajal kogeb Colossus erakordset võrgutõhusust, säilitades 95% jõudlust ja null rakenduse latency halvenemist või pakettkadu tänu Spectrum-X'ile. Seevastu tavaline Ethernet seisab silmitsi voo kokkupõrgetega, saavutades vaid 60% andmesidekiiruse. NVIDIA võrgunduse vanem asepresident Gilad Shainer rõhutas tehisintellekti olulisust, mis nõuab suuremat jõudlust, turvalisust, ulatuslikkust ja kuluefektiivsust, mida Spectrum-X platvorm pakub innovaatoreile nagu xAI. Elon Musk tõstis esile Colossust kui "maailma kõige võimsamat treeningsüsteemi", tunnustades xAI ja NVIDIA pingutusi.

xAI esindaja tõi välja, et NVIDIA Hopper GPU-de ja Spectrum-X tehnoloogia kombinatsioon võimaldab enneolematut tehisintellekti mudelite treenimist tohutus mastaabis. Spektrikombinatsiooni keskmes on Spectrum SN5600 Ethernet lüliti, mis toetab kiiruseid kuni 800 Gb/s, täiustatuna NVIDIA BlueField-3® SuperNIC-dega. Spectrum-X Etherneti võrgundus toob arenenud omadused, mis varem seostusid ainult InfiniBandiga, sealhulgas adaptiivne marsruutimine, ummikute kontroll ja paremad nähtavuse ja jõudlus omaduse paljutäidilistes tehisintellekti keskkondades. NVIDIA juhib kiirrearvuti valdkonda, kuid tulevikku suunatud avaldused oma tehnoloogiate kasude ja jõudluse kohta võivad kaasa tuua riske, mis võivad mõjutada tegelikke tulemusi. Sellised tegurid nagu globaalsed majandustingimused, sõltumine kolmandatest isikutest ja tehnoloogiline konkurents võivad mõjutada tulemusi. NVIDIA pakub regulaarseid värskendusi SEC dokumentide kaudu. © 2024 NVIDIA Corporation. Kõigile õigused kaitstud.