Startup menom Letta vystúpil z režimu utajenia a predstavil technológiu, ktorá umožňuje modelom AI pamätať si používateľov a minulé rozhovory. Vyvinutý v slávnom inkubátore startupov na UC Berkeley, Letta získala viedenské financovanie vo výške 10 miliónov dolárov vedené Astasiou Myerovou zo spoločnosti Felicis, a dosiahla ocenovanie po investíciách vo výške 70 miliónov dolárov. Startup získal podporu významných anjelských investorov v oblasti AI, vrátane Jeffa Deana z Google a Clema Delangue z Hugging Face. Zakladatelia, doktorandi na Berkeley, Sarah Wooders a Charles Packer, vytvorili Lettu ako produkt Sky Computing Lab a komerčný odnož veľmi populárneho open source projektu MemGPT. Sky Computing Lab, pod vedením profesora Iona Stoicu, má históriu úspešných spoločností a pokročilých open source projektov jazykových modelov. MemGPT sa snaží prekonať bezstavovú povahu konvenčných veľkých jazykových modelov (LLM), ako je ChatGPT, ktoré majú problémy s pamätaním údajov používateľov v priebehu času. Táto schopnosť je nevyhnutná pre aplikácie ako zákaznícka podpora a sledovanie symptómov v zdravotníctve. Záujem o MemGPT bol taký veľký, že jeho biela kniha sa stala virálnou na Hacker News ešte pred oficiálnym vydaním. Po získaní značnej pozornosti sa zakladatelia rýchlo pripravili na spustenie MemGPT na GitHub, kde získal tisíce hviezd a fork, spolu s rozhovormi a tutoriálmi.

Myers, ktorý objavil projekt prostredníctvom bielej knihy, rozpoznal jeho komerčný potenciál a oslovil zakladateľov. Trojica usporiadala stretnutia s rôznymi VCs pred tým, ako si vybrali Felicis, podporený sieťou vplyvných investorov, ktorú sprostredkoval Stoica. V súčasnosti Letta pripravuje spustenie svojho komerčného produktu, Letta Cloud, ktorý ponúkne službu pre vývojárov na nasadenie stavových AI agentov prostredníctvom REST API a spravovanie dlhodobých údajov. Zatiaľ čo MemGPT je už v prevádzke, Letta Cloud čoskoro otvorí svoje brány pre beta používateľov. Wooders zdôrazňuje, že hlavným využitím MemGPT je vytváranie interaktívnych, personalizovaných chatbotov, vrátane špecializovaných funkcií, ako je pomoc pacientom s rakovinou na základe ich zdravotnej histórie. Konkurencia je však tvrdá, s firmami ako LangChain a OpenAI’s Assistants API, ktoré už ponúkajú podobné služby. Napriek konkurenčnému prostrediu sa Letta odlišuje tým, že tvrdí, že je kompatibilná s akýmkoľvek AI modelom, na rozdiel od OpenAI, ktorá je obmedzená na svoje AI ponuky. Navyše, Letta sa zaviazala k princípom open source, obhajujúc transparentnosť pred proprietárnymi riešeniami, čo spoluzakladateľ Packer považuje za nevyhnutné pre efektívny vývoj aplikácií AI.