A McKinsey & Company jelentése "A generatív mesterséges intelligencia gazdasági potenciálja: A következő termelékenységi határ" azt állítja, hogy a generatív mesterséges intelligencia 2, 6 és 4, 4 billió dollár közötti értéket adhat hozzá a globális gazdasághoz, jelentős hatást gyakorolva az ügyfélműveletekre, marketingre, értékesítésre, szoftverfejlesztésre és K+F-re. Ahogy a vállalkozások generatív AI alkalmazásokat fejlesztenek az AWS-en, egyre inkább érdeklődnek a költségszempontok és optimalizálási stratégiák iránt. Ez a bejegyzés bemutatja a költséggel kapcsolatos szempontokat a generatív AI kiadások optimalizálására az AWS-en, az Amazon Bedrock keretében a Retrieval Augmented Generation (RAG) keretrendszerre összpontosítva. Kiemeli az optimalizálási pilléreket, mint a modellszelekció, tokenhasználat, inferenciálási árképzés, és egyebek, hogy költséghatékony AI alkalmazásokat tervezzenek. A generatív AI folyamatok magukban foglalják az adatok olvasását és feldarabolását, vektor beágyazások generálását és tárolását egy vektorbázisú adatbázisban. Az Amazon Bedrock megkönnyíti ezeket a folyamatokat azáltal, hogy hozzáférést biztosít nagy teljesítményű alapmodellekhez (FMs) API-kon keresztül.

A bejegyzés költségelemzést is tartalmaz különféle működési forgatókönyvekre (kicsitől extra nagyig), hangsúlyozva az Amazon Bedrock és vektorbázisú adatbázis költségeit. A költségeket befolyásoló kulcsfontosságú tényezők közé tartozik a be-/kimeneti tokenek száma és karakterhossza, a vektor beágyazási költségek, és az Amazon Bedrock Guardrails, amely a tartalombiztonságot garantálja nemkívánatos témák és személyes információk kiszűrésével. Különböző darabolási stratégiák (standard, hierarchikus és szemantikai) befolyásolják a költségeket és az adatpontosságot, mindegyikhez javaslatokat adva. Végül a bejegyzés összefoglalja az AWS-en futó generatív AI alkalmazások költségeit befolyásoló tényezőket, egy aktuális pillanatképet nyújtva a lehetséges kiadásokról feltételezések alapján. A sorozat 2. része ígéretet tesz az üzleti érték számításhoz és a befolyásoló tényezők vizsgálatára. Vinnie Saini, az AWS Senior Generatív AI Specialist Solution Architectje 15 év AI/ML megoldásokban szerzett tapasztalattal, írta a bejegyzést.