Ifølge rapporter planlægger Meta at lancere mindre versioner af sin Llama sprogmodel for at imødekomme virksomheder, der søger omkostningseffektive AI-modeller til offentligheden. The Information har meddelt, at Meta har til hensigt at lancere to små versioner af Llama 3 denne måned, efterfulgt af flagskibsmodellen til sommer. The Verge har kontaktet Meta for en kommentar. Denne trend afspejler den stigende efterspørgsel efter letvægts AI-modeller tilbudt af AI-udviklere. Meta introducerede allerede en mindre version af sin Llama 2-model, kendt som Llama 2 7B, i februar sidste år. Google afslørede også Gemma-modelfamilien i februar, og Mistral, et fransk AI-firma, tilbyder Mistral 7B-modellen. Selvom disse modeller måske ikke håndterer omfattende brugerinstruktioner, er de hurtigere, mere fleksible og vigtigst af alt mere omkostningseffektive sammenlignet med modeller i almindelig størrelse.

Dog er de stadig i stand til kraftfulde AI-opgaver, såsom at sammenfatte PDF'er, samtaler og skrive kode. Større modeller bruges typisk til komplekse opgaver som generering af fotos eller udførelse af flere kommandoer. På grund af det mindre antal parametre (de data, de lærer), kræver disse lette modeller mindre computerkraft. Tiltrækningskraften ved lette modeller ligger i deres egnethed til specifikke applikationer og målrettede projekter. De finder praktisk anvendelse inden for områder som kodeassistance og på enheder som telefoner eller bærbare computere, der måske ikke understøtter strømforbruget fra større AI-modeller.