Un startup numit Letta a ieșit din modul de stealth, dezvăluind o tehnologie care permite modelelor AI să își amintească utilizatorii și conversațiile anterioare. Dezvoltat în renumitul incubator de startupuri de la UC Berkeley, Letta a obținut 10 milioane de dolari în finanțare inițială condusă de Astasia Myers de la Felicis, având o valoare post-financiara de 70 de milioane de dolari. Startup-ul a atras sprijinul unor investitori notabili în domeniul AI, inclusiv Jeff Dean de la Google și Clem Delangue de la Hugging Face. Fondat de studenții doctoranzi de la Berkeley, Sarah Wooders și Charles Packer, Letta este un produs al Sky Computing Lab și derivă din popularul proiect open source MemGPT. Sky Computing Lab, condus de profesorul Ion Stoica, are un istoric de producere a unor companii de succes și proiecte avansate de modele limbaj open-source. MemGPT își propune să depășească natura fără stare a modelelor de limbaj mari convenționale (LLM), cum ar fi ChatGPT, care au dificultăți în a reține datele utilizatorilor în timp. Această capacitate este crucială pentru aplicații precum asistența pentru clienți și monitorizarea simptomelor în sănătate. Interesul pentru MemGPT a fost atât de intens încât whitepaper-ul său a devenit viral pe Hacker News înainte de lansarea oficială. După ce a câștigat o atenție semnificativă, fondatorii au pregătit rapid lansarea MemGPT pe GitHub, care a atras mii de stele și forks, împreună cu interviuri și tutoriale.

Myers, care a descoperit proiectul prin whitepaper, a recunoscut potențialul său comercial și a contactat fondatorii. Trio-ul a avut întâlniri cu diferiți VCs înainte de a alege Felicis, susținut de o rețea de investitori influenți facilitată de Stoica. În prezent, Letta se pregătește pentru lansarea produsului comercial, Letta Cloud, care va oferi un serviciu pentru dezvoltatori pentru a implementa agenți AI cu stare prin API-uri REST și a gestiona datele pe termen lung. În timp ce MemGPT este deja în uz, Letta Cloud va fi disponibil în curând pentru utilizatorii beta. Wooders subliniază principala aplicabilitate a MemGPT în crearea de chatbots captivante și personalizate, inclusiv funcții specializate, cum ar fi asistarea pacienților cu cancer prin învățarea din istoricul lor medical. Cu toate acestea, concurența este acerbă, cu companii precum LangChain și API-ul Asistenților OpenAI care oferă deja servicii similare. În ciuda peisajului competitiv, Letta se distinge prin faptul că pretinde compatibilitatea cu orice model AI, spre deosebire de OpenAI, care este limitat la ofertele sale AI. Mai mult, Letta se angajează la principiile open-source, pledând pentru transparență în fața soluțiilor proprietare, ceea ce co-fondatorul Packer consideră esențial pentru dezvoltarea eficientă a aplicațiilor AI.