Volgens berichten is Meta van plan om kleinere versies van zijn Llama-taalmodel uit te brengen om tegemoet te komen aan bedrijven die kosteneffectieve AI-modellen voor het publiek willen. The Information heeft verklaard dat Meta van plan is om deze maand twee kleine versies van Llama 3 te lanceren, gevolgd door het vlaggenschipmodel deze zomer. The Verge heeft contact opgenomen met Meta voor commentaar. Deze trend weerspiegelt de groeiende vraag naar lichtgewicht AI-modellen die worden aangeboden door AI-ontwikkelaars. Meta introduceerde al een kleinere versie van zijn Llama 2-model, bekend als Llama 2 7B, in februari vorig jaar. Google heeft ook de Gemma-familie van modellen onthuld in februari, en Mistral, een Frans AI-bedrijf, biedt het Mistral 7B-model aan. Hoewel deze modellen mogelijk geen uitgebreide gebruikersinstructies aankunnen, zijn ze sneller, flexibeler en, belangrijker nog, kosteneffectiever in vergelijking met reguliere modellen van grotere omvang.

Ze zijn echter nog steeds in staat om krachtige AI-taken uit te voeren, zoals het samenvatten van PDF's, gesprekken en het schrijven van code. Grotere modellen worden doorgaans gebruikt voor complexe taken zoals het genereren van foto's of het uitvoeren van meerdere opdrachten. Vanwege hun kleinere aantal parameters (de gegevens die ze leren), hebben deze lichtgewicht modellen minder rekenkracht nodig. Het aantrekkelijke van lichtgewicht modellen ligt in hun geschiktheid voor specifieke toepassingen en projecten op maat. Ze vinden praktisch gebruik in gebieden zoals codeondersteuning en op apparaten zoals telefoons of laptops die mogelijk de energieconsumptie van grotere AI-modellen niet ondersteunen.