Enligt rapporter planerar Meta att släppa mindre versioner av sitt Llama-språkmodell för att tillgodose företag som söker kostnadseffektiva AI-modeller för allmänheten. The Information har meddelat att Meta avser att lansera två mindre versioner av Llama 3 denna månad, följda av flaggskeppsmodellen i sommar. The Verge har kontaktat Meta för kommentar. Denna trend återspeglar den ökande efterfrågan på lätta AI-modeller som erbjuds av AI-utvecklare. Meta introducerade redan en mindre version av sin Llama 2-modell, känd som Llama 2 7B, i februari förra året. Google presenterade också Gemma-familjen av modeller i februari, och det franska AI-företaget Mistral erbjuder Mistral 7B-modellen. Även om dessa modeller kanske inte hanterar långa användarinstruktioner är de snabbare, mer flexibla och, viktigast av allt, mer kostnadseffektiva jämfört med vanligt hårda modeller.

De är dock fortfarande kapabla att utföra kraftfulla AI-uppgifter, som att summera PDF:er, konversationer och skriva kod. Större modeller används vanligtvis för komplexa uppgifter som att generera foton eller utföra flera kommandon. På grund av deras mindre antal parametrar (den data de lär sig) kräver dessa lätta modeller mindre beräkningskraft. Attraktionen för lätta modeller ligger i deras lämplighet för specifika applikationer och riktade projekt. De används praktiskt inom områden som kodassistans och på enheter som telefoner eller bärbara datorer som kanske inte stöder den strömförbrukningen hos större AI-modeller.