El CEO de Meta, Mark Zuckerberg, va anunciar avenços significatius en l'entrenament de IA generativa durant una trucada de resultats el dimecres. Va revelar que el desenvolupament del model Llama 4 està en curs, utilitzant un clúster de GPUs que supera qualsevol altra cosa reportada anteriorment, aconseguint més de 100. 000 xips Nvidia H100. El llançament inicial de Llama 4 està previst per a principis de l'any que ve, amb models més petits que probablement estaran disponibles primer. S'espera que aquest augment en l'escala d'entrenament de IA sigui crucial per construir models d'IA més avançats. Tot i que Meta sembla tenir avantatge, altres principals actors en el camp de l'AI també estan perseguint grans clústers de càlcul. Al març, es va assenyalar que Meta i Nvidia havien treballat anteriorment amb unes 25. 000 H100s per Llama 3, mentre que Elon Musk va afirmar que la seva empresa xAI havia establert una configuració similar amb 100. 000 H100s. Zuckerberg va insinuar el potencial de Llama 4 per a noves modalitats, un millor raonament i un rendiment més ràpid, encara que no va elaborar sobre capacitats específiques. A diferència dels models propietaris d'OpenAI i Google, els models Llama de Meta es poden descarregar gratuïtament, cosa que ha atret startups i investigadors que volen més control sobre els seus sistemes d'IA.

No obstant això, l'etiqueta de codi obert ve amb restriccions en l'ús comercial, i Meta no revela detalls de l'entrenament. Gestionar una quantitat tan extensa de xips per a Llama 4 planteja reptes d'enginyeria i energia. Es calcula que un clúster d'aquesta mida requeriria 150 megawatts de potència, mentre que el superordinador més gran dels EUA, El Capitan, només utilitza 30 megawatts. Meta planeja gastar fins a 40. 000 milions de dòlars aquest any en infraestructura, reflectint un augment del 42% des de 2023. Malgrat l'augment dels costos operatius d'aproximadament el 9%, les vendes totals de Meta per publicitat han augmentat més del 22%, el que condueix a marges i beneficis més alts encara que es destinen fons significatius als projectes Llama. En contrast, OpenAI, el desenvolupador líder d'IA de darrera generació, continua enfrontant-se a reptes, actualment entrenant el model més gran GPT-5 mentre gestiona la seva operació com un esforç sense ànim de lucre. Zuckerberg va defensar l'estratègia de codi obert de Meta, afirmant que és més rendible i fiable comparada amb els sistemes propietaris. Creu que Llama 4 millorarà una varietat de funcions a través de les plataformes de Meta, incloent el popular chatbot Meta AI, que atrau més de 500 milions d'usuaris mensuals. L'empresa preveu oportunitats de monetització a través de la publicitat en aquesta funció, suggerint un camí per subsidiar Llama per a un accés més ampli.