En oppstart kalt Letta har kommet ut av stealth-modus, og avslører teknologi som gjør det mulig for AI-modeller å huske brukere og tidligere samtaler. Utviklet i UC Berkeleys anerkjente oppstart-inkubator, har Letta sikret seg $10 millioner i startfinansiering ledet av Felicis’ Astasia Myers, og kan skilte med en etter-pengene-verdsettelse på $70 millioner. Oppstarten har fått støtte fra kjente engleinvestorer i AI-området, inkludert Googles Jeff Dean og Hugging Face’s Clem Delangue. Grunnlagt av Berkeley PhD-studenter Sarah Wooders og Charles Packer, er Letta et produkt fra Sky Computing Lab og en kommersiell avlegger av det meget populære MemGPT open source-prosjektet. Sky Computing Lab, ledet av professor Ion Stoica, har en historie med å produsere suksessrike selskaper og avanserte open-source språkmodellprosjekter. MemGPT tar sikte på å overvinne den tilstandsfrie naturen til konvensjonelle store språkmodeller (LLMs), som ChatGPT, som sliter med å huske brukerdata over tid. Denne evnen er avgjørende for applikasjoner som kundestøtte og helsesymptomsporing. Interessen for MemGPT var så intens at dens whitepaper ble viral på Hacker News før den offisielle utgivelsen. Etter å ha fått betydelig oppmerksomhet, forberedte grunnleggerne raskt lanseringen av MemGPT på GitHub, som fikk tusenvis av stjerner og fork, 'er sammen med intervjuer og veiledninger.

Myers, som oppdaget prosjektet gjennom whitepaper'en, innså dets kommersielle potensial og tok kontakt med grunnleggerne. Trio'en hadde møter med ulike VC'er før de valgte Felicis, støttet av et nettverk av innflytelsesrike investorer tilrettelagt av Stoica. For tiden forbereder Letta seg på lanseringen av sitt kommersielle produkt, Letta Cloud, som vil tilby en tjeneste for utviklere å distribuere tilstandssikre AI-agenter via REST API'er og administrere langtidsdata. Mens MemGPT allerede er i bruk, vil Letta Cloud snart åpne for beta-brukere. Wooders fremhever den primære anvendelsen av MemGPT til å skape engasjerende, personlige chatbots, inkludert spesialiserte funksjoner som å assistere kreftpasienter ved å lære av deres medisinske historie. Imidlertid er konkurransen hard, med selskaper som LangChain og OpenAIs Assistants API som allerede tilbyr lignende tjenester. Til tross for det konkurransedyktige landskapet, skiller Letta seg ut ved å påstå kompatibilitet med enhver AI-modell, i motsetning til OpenAI, som er begrenset til sine AI-tilbud. Dessuten er Letta forpliktet til open-source prinsipper, som går inn for åpenhet fremfor proprietære løsninger, noe som medgründer Packer mener er avgjørende for effektiv utvikling av AI-applikasjoner.