Inception, novo osnovano poduzeće u Palo Altu, koje je pokrenuo profesor računalnih znanosti na Stanfordu Stefano Ermon, tvrdi da je stvorilo revolucionarni AI model koristeći tehnologiju "difuzije". Ovaj inovativni model naziva se model velikog jezika temeljen na difuziji, ili skraćeno “DLM”. Trenutno, generativni AI modeli koji privlače najviše pažnje mogu se kategorizirati u dvije glavne vrste: modeli velikog jezika (LLM) i modeli difuzije. LLM-ovi, koji su dizajnirani na temelju transformatorske arhitekture, specijalizirani su za generiranje teksta. S druge strane, modeli difuzije, tehnologija koja pokreće AI platforme poput Midjourney i OpenAI-ovog Sore, prvenstveno se fokusiraju na generiranje slika, videa i zvuka. Prema Inceptionu, njihov model kombinira mogućnosti konvencionalnih LLM-ova—poput generiranja koda i odgovaranja na pitanja—s značajno poboljšanom brzinom i nižim troškovima računanja. Ermon je za TechCrunch otkrio da je dugo istraživao primjenu modela difuzije za generiranje teksta u svom istraživačkom laboratoriju na Stanfordu. Njegov rad proizašao je iz promatranja da tradicionalni LLM-ovi djeluju sporije u usporedbi s tehnologijama difuzije. “S LLM-ovima”, objasnio je Ermon, “ne možete generirati drugu riječ dok ne proizvedete prvu, a treću riječ ne možete generirati sve dok prva dva nisu gotova. ” Tražeći način za primjenu difuzijskih mehanizama u generiranju teksta, Ermon je primijetio da, za razliku od LLM-ova koji djeluju sekvencijalno, modeli difuzije započinju s grubom aproksimacijom izlaza (na primjer, slike) i sveobuhvatno poboljšavaju podatke u jednom potezu. Ermon je teoretizirao da bi generiranje i modificiranje značajnih blokova teksta paralelno moglo biti izvedivo korištenjem modela difuzije.

Nakon nekoliko godina istraživanja, on i jedan od njegovih studenata postigli su značajan napredak, koji su dokumentirali u istraživačkom radu objavljenom prošle godine. Prepoznajući potencijal ovog napretka, Ermon je osnovao Inception prošlog ljeta, dovodeći u tim bivše studente Adityu Grovera, profesora na UCLA-u, i Volodymyra Kuleshova s Cornell Universityja kako bi zajednički vodili poduhvat. Iako Ermon nije htio otkriti specifične detalje financiranja Inceptiona, TechCrunch je saznao da je Mayfield Fund među njegovim investitorima. Inception je već osigurao ugovore s raznim klijentima, uključujući nepomenute Fortune 100 kompanije, rješavajući njihove hitne zahtjeve za nižom latencijom AI-a i povećanom brzinom, prema Ermonu. “Naši modeli mogu značajno učinkovitije iskoristiti GPU-ove”, istaknuo je Ermon, misleći na grafičke procesne jedinice koje se obično koriste za pokretanje produkcijskih modela. “Vjerujem da je ovo transformativno i da će promijeniti način na koji se razvijaju jezični modeli. ” Poduzeće pruža API zajedno s opcijama za implementaciju na licu mjesta i na rubnim uređajima, podršku za fino podešavanje modela, te niz spremnih za korištenje DLM-ova prilagođenih raznim aplikacijama. Inception tvrdi da njegovi DLM-ovi mogu raditi do 10 puta brže od tradicionalnih LLM-ova uz troškove koji su također 10 puta niži. Predstavnik tvrtke informirao je TechCrunch: “Naš ‘mali’ kodni model jednak je performansama [OpenAI-ovog] GPT-4o mini, ali radi brže od više od 10 puta. Naš ‘mini’ model nadmašuje male open-source alternative poput [Meta-ovog] Llama 3. 1 8B, postižući više od 1. 000 tokena u sekundi. ”