Les empreses busquen potència de computació robusta per millorar les seves càrregues de treball de IA i accelerar el processament de dades, millorant finalment els retorns de les inversions en entrenament de IA i les experiències dels usuaris. A la conferència Oracle CloudWorld, Oracle Cloud Infrastructure (OCI) va presentar el seu primer supercluster OCI a escala zettascala, impulsat per la plataforma Blackwell de NVIDIA. Aquesta infraestructura suporta l’entrenament i el desplegament de models avançats de IA utilitzant més de 100. 000 de les últimes GPU de NVIDIA. Els supercluster OCI ofereixen flexibilitat, permetent als clients seleccionar entre diverses GPU de NVIDIA per al desplegament en núvols locals, públics i sobirans. Aquests sistemes, disponibles en la primera meitat de l’any vinent, poden escalar fins a 131, 072 GPU Blackwell, aconseguint uns impressionants 2, 4 zettaflops de potència computacional de IA en el núvol. Oracle també va revelar les instances bare-metal NVL72 NVIDIA GB200, que faciliten l’entrenament a gran escala i la inferència en temps real per a aplicacions de IA generativa. Aquestes instances suporten un domini NVLink NVIDIA de 72 GPU que funciona com una sola GPU massiva.

A més a més, OCI proporcionarà NVIDIA HGX H200 per connectar múltiples GPU per a la inferència en temps real a gran escala. Les instàncies accelerades per GPU NVIDIA L40S estaran disponibles generalment per a càrregues de treball de IA de gamma mitjana, mentre que les solucions edge d’Oracle suporten la IA escalable en àrees remotes, incloent-hi desplegaments més petits amb fins a tres GPU NVIDIA L4. Reka, una startup de models fundacionals, està utilitzant els supercluster OCI impulsats per NVIDIA per desenvolupar models avançats de IA multimodal que milloren les funcionalitats empresarials. A més a més, la Base de Dades Autònoma d’Oracle ara suporta GPU de NVIDIA, permetent un processament de dades accelerat per a l’aprenentatge automàtic. Durant la conferència es van presentar demostracions de com la computació accelerada de NVIDIA pot millorar les capacitats de IA generativa dins d’entorns d’Oracle. NVIDIA i Oracle també col·laboren en infraestructura de IA sobirana per satisfer les necessitats de residència de dades. Les iniciatives inclouen Wide Labs de Brasil, que va crear un gran model de llenguatge per a portuguès brasiler utilitzant OCI i tecnologia de NVIDIA, així com Nomura Research Institute al Japó, que utilitza OCI per millorar els serveis d’IA financera. Les empreses poden integrar ràpidament la IA desplegant software de NVIDIA conjuntament amb les solucions en núvol d’OCI, promovent l’automatització i la gestió de tasques complexes. Les parts interessades poden aprendre més i registrar-se per a l’Oracle CloudWorld 2024 per explorar aquests avanços en IA i processament de dades.