Ο διευθύνων σύμβουλος της Meta, Mark Zuckerberg, ανακοίνωσε σημαντικές προόδους στην εκπαίδευση γενετικής AI κατά τη διάρκεια μιας κλήσης κέρδους την Τετάρτη. Αποκάλυψε ότι η ανάπτυξη του μοντέλου Llama 4 βρίσκεται σε εξέλιξη, χρησιμοποιώντας ένα σύμπλεγμα GPU που ξεπερνάει οτιδήποτε άλλο έχει αναφερθεί προηγουμένως, με πάνω από 100, 000 τσιπ Nvidia H100. Η αρχική εκκίνηση του Llama 4 αναμένεται στις αρχές του επόμενου έτους, με μικρότερα μοντέλα πιθανότατα διαθεσίμα πρώτα. Αυτή η αύξηση στην κλίμακα εκπαίδευσης AI θεωρείται κρίσιμη για την κατασκευή πιο προηγμένων μοντέλων AI. Ενώ η Meta φαίνεται να έχει ένα προβάδισμα, άλλοι μεγάλοι παίκτες στον τομέα της AI επιδιώκουν επίσης μεγάλα συμπλέγματα υπολογιστών. Τον Μάρτιο, σημειώθηκε ότι η Meta και η Nvidia είχαν συνεργαστεί προηγουμένως με περίπου 25, 000 H100 για το Llama 3, ενώ ο Elon Musk ισχυρίστηκε ότι η επιχείρηση του xAI είχε δημιουργήσει ένα αντίστοιχο σύστημα με 100, 000 H100. Ο Zuckerberg υπαινίχθηκε τις πιθανές δυνατότητες του Llama 4 για νέους τρόπους, ισχυρότερη λογική, και ταχύτερη απόδοση, αν και δεν ανέλυσε ειδικές δυνατότητες. Σε αντίθεση με τα ιδιωτικά μοντέλα της OpenAI και της Google, τα μοντέλα Llama της Meta μπορούν να κατεβαστούν δωρεάν, κάτι που έχει προσελκύσει νεοσύστατες επιχειρήσεις και ερευνητές που θέλουν περισσότερο έλεγχο στα συστήματα AI τους.

Ωστόσο, η ετικέτα ανοιχτού κώδικα έρχεται με περιορισμούς στη εμπορική χρήση, και η Meta δεν αποκαλύπτει λεπτομέρειες εκπαίδευσης. Η διαχείριση ενός τόσο εκτεταμένου συνόλου τσιπ για το Llama 4 θέτει προκλήσεις μηχανικής και ενέργειας. Εκτιμάται ότι ένα σύμπλεγμα αυτού του μεγέθους θα απαιτούσε 150 μεγαβάτ ενέργειας, ενώ ο μεγαλύτερος υπερυπολογιστής στις ΗΠΑ, El Capitan, χρησιμοποιεί μόλις 30 μεγαβάτ. Η Meta σχεδιάζει να δαπανήσει έως και 40 δισεκατομμύρια δολάρια φέτος για υποδομή, αντανακλώντας μια αύξηση 42% από το 2023. Παρά την αύξηση των λειτουργικών εξόδων περίπου 9%, οι συνολικές πωλήσεις της Meta από διαφήμιση έχουν αυξηθεί πάνω από 22%, οδηγώντας σε υψηλότερα περιθώρια και κέρδη ακόμα και όταν σημαντικά κεφάλαια δαπανώνται στα πρότζεκτ Llama. Αντίθετα, η OpenAI, ο κορυφαίος προγραμματιστής προηγμένης AI, συνεχίζει να αντιμετωπίζει προκλήσεις, εκπαιδεύοντας επί του παρόντος το μεγαλύτερο μοντέλο GPT-5 ενώ διαχειρίζεται την επιχείρηση ως μη κερδοσκοπική προσπάθεια. Ο Zuckerberg υπερασπίστηκε τη στρατηγική ανοιχτού κώδικα της Meta, δηλώνοντας ότι είναι οικονομικά αποδοτική και αξιόπιστη σε σύγκριση με ιδιόκτητα συστήματα. Πιστεύει ότι το Llama 4 θα ενισχύσει μια ποικιλία χαρακτηριστικών στις πλατφόρμες της Meta, συμπεριλαμβανομένου του δημοφιλούς chatbot Meta AI, το οποίο προσελκύει πάνω από 500 εκατομμύρια χρήστες μηνιαίως. Η εταιρεία προβλέπει ευκαιρίες δημιουργίας εισοδήματος μέσω διαφήμισης σε αυτό το χαρακτηριστικό, προτείνοντας μια πορεία για καθολική πρόσβαση στο Llama.