Egy Letta nevű startup, amely kilépett a rejtőzködésből, olyan technológiát mutatott be, amely lehetővé teszi az AI-modelllek számára, hogy emlékezzenek a felhasználókra és a korábbi beszélgetésekre. A UC Berkeley híres startup inkubátorában fejlesztett Lettának sikerült 10 millió dollár magvető finanszírozást szereznie, amelyet a Felicis Astasia Myers vezetett, és egy 70 millió dolláros utólagos értékelést elért. A startup támogatást kapott az AI tér területén neves angyalbefektetőktől, köztük a Google Jeff Dean-jétől és a Hugging Face Clem Delangue-jétől. A Berkeley doktori hallgatói, Sarah Wooders és Charles Packer alapította Letta a Sky Computing Lab terméke, amely a népszerű MemGPT nyílt forráskódú projekt kereskedelmi mellékága. A Ion Stoica professzor által vezetett Sky Computing Labnak jelentős tapasztalata van sikeres cégek és fejlett nyílt forráskódú nyelvi modell projektek létrehozásában. A MemGPT célja, hogy leküzdje a hagyományos nagy nyelvi modellek (LLM-ek) állapotmentességét, mint például a ChatGPT, amelyek idővel küzdenek a felhasználói adatok emlékezésével. Ez a képesség létfontosságú olyan alkalmazásokban, mint az ügyfélszolgálat és az egészségügyi tünetkövetés. A MemGPT iránti érdeklődés olyan intenzív volt, hogy a whitepaper-je vírusként terjedt a Hacker News-on az hivatalos megjelenés előtt. A jelentős figyelem elérése után az alapítók gyorsan előkészítették a MemGPT indítását a GitHubon, amely ezer csillagot és villát szerzett, és számos interjút és oktatóanyagot is készített.

Myers, aki a whitepaper révén ismerte meg a projektet, felismerte annak kereskedelmi potenciálját és kapcsolatba lépett az alapítókkal. A hármas több VC-vel tartott megbeszéléseket, mielőtt a Felicist választotta volna, amelyet Stoica által létrehozott befolyásos befektetők hálózata támogatott. Jelenleg a Letta készül a kereskedelmi terméke, a Letta Cloud elindítására, amely szolgáltatást nyújt a fejlesztők számára állapotú AI ügynökök telepítésére REST API-kon keresztül és hosszú távú adattárolás kezelésére. Bár a MemGPT már használatban van, a Letta Cloud rövidesen béta felhasználók számára is megnyílik. Wooders kiemeli a MemGPT elsődleges alkalmazását, hogy személyre szabott, vonzó chatbotokat hozzanak létre, beleértve a speciális funkciókat is, mint például a rákbetegek segítése az orvosi történetükből tanulva. Azonban a verseny kemény, olyan cégekkel szemben, mint a LangChain és az OpenAI Assistants API, amelyek már hasonló szolgáltatásokat kínálnak. A versenyképes környezet ellenére a Letta azzal különbözteti meg magát, hogy azt állítja, bármilyen AI modellel kompatibilis, ellentétben az OpenAI-val, amely a saját AI kínálatára korlátozott. Ezen túlmenően a Letta elkötelezett a nyílt forráskódú elvek mellett, a transzparenciát támogatva a saját megoldások ellenében, amelyet az alapító Packer szerint elengedhetetlen az AI alkalmazások hatékony fejlesztéséhez.