Laut Berichten plant Meta, kleinere Versionen seines Llama-Sprachmodells herauszubringen, um Unternehmen anzusprechen, die kostengünstige KI-Modelle für die Öffentlichkeit suchen. The Information gab bekannt, dass Meta noch in diesem Monat zwei kleine Versionen des Llama 3 Modells einführen möchte, gefolgt vom Flaggschiffmodell im Sommer. The Verge hat Meta um einen Kommentar gebeten. Dieser Trend spiegelt die steigende Nachfrage nach leichtgewichtigen KI-Modellen wider, die von KI-Entwicklern angeboten werden. Meta führte bereits im Februar letzten Jahres eine kleinere Version seines Llama 2 Modells namens Llama 2 7B ein. Auch Google stellte im Februar die Gemma-Modellfamilie vor und das französische KI-Unternehmen Mistral bietet das Mistral 7B Modell an. Obwohl diese Modelle möglicherweise keine langen Benutzeranweisungen verarbeiten können, sind sie schneller, flexibler und vor allem kostengünstiger im Vergleich zu Modellen in regulärer Größe.

Sie sind jedoch immer noch in der Lage, anspruchsvolle KI-Aufgaben wie das Zusammenfassen von PDFs, Gesprächen und das Schreiben von Code zu bewältigen. Größere Modelle werden in der Regel für komplexe Aufgaben wie das Generieren von Fotos oder die Ausführung mehrerer Befehle eingesetzt. Aufgrund ihrer geringeren Anzahl an Parametern (den Daten, die sie lernen), benötigen diese leichtgewichtigen Modelle weniger Rechenleistung. Der Anreiz für leichtgewichtige Modelle liegt in ihrer Eignung für spezifische Anwendungen und gezielte Projekte. Sie finden praktische Anwendungsbereiche wie Code-Unterstützung und auf Geräten wie Telefonen oder Laptops, die möglicherweise nicht den Stromverbrauch größerer KI-Modelle unterstützen.