Inception, una neocostituita azienda di Palo Alto, avviata dal professore di informatica di Stanford Stefano Ermon, afferma di aver creato un modello di intelligenza artificiale rivoluzionario utilizzando la tecnologia di “diffusione”. Questo modello innovativo è chiamato modello linguistico di grandi dimensioni basato su diffusione, o “DLM” in breve. Attualmente, i modelli di intelligenza artificiale generativa che attirano maggiormente l'attenzione possono essere classificati in due tipi principali: modelli linguistici di grandi dimensioni (LLM) e modelli di diffusione. Gli LLM, progettati su architettura a trasformatore, si specializzano nella generazione di testo. In contrasto, i modelli di diffusione, la tecnologia dietro piattaforme di intelligenza artificiale come Midjourney e Sora di OpenAI, si concentrano principalmente sulla generazione di immagini, video e audio. Secondo Inception, il suo modello combina le capacità degli LLM convenzionali, come la generazione di codice e la risposta a domande, con una velocità notevolmente migliorata e costi di calcolo inferiori. Ermon ha condiviso con TechCrunch di aver a lungo esplorato l'applicazione dei modelli di diffusione alla generazione di testo nel suo laboratorio di ricerca a Stanford. Il suo lavoro è emerso dall'osservazione che gli LLM tradizionali operano a un ritmo più lento rispetto alle tecnologie di diffusione. Con gli LLM, ha spiegato Ermon, “non puoi generare la seconda parola finché non hai prodotto la prima, e la terza parola non può essere generata finché le prime due non sono complete”. Cercando un approccio per applicare i meccanismi di diffusione alla generazione di testo, Ermon ha notato che, a differenza degli LLM che operano sequenzialmente, i modelli di diffusione iniziano con un'approssimazione grezza dell'output (ad esempio, un'immagine) e affinano i dati in modo completo in un colpo solo. Ermon ha ipotizzato che generare e modificare ampie sezioni di testo in parallelo potrebbe essere fattibile utilizzando i modelli di diffusione.

Dopo diversi anni di ricerca, lui e uno dei suoi studenti hanno raggiunto un significativo traguardo, che hanno documentato in un articolo di ricerca pubblicato lo scorso anno. Riconoscendo il potenziale di questo progresso, Ermon ha fondato Inception la scorsa estate, collaborando con ex studenti come Aditya Grover, professore presso UCLA, e Volodymyr Kuleshov della Cornell University per co-guidare l'iniziativa. Sebbene Ermon abbia scelto di non rivelare dettagli specifici sul finanziamento di Inception, TechCrunch ha appreso che il Mayfield Fund è tra i suoi investitori. Inception ha già assicurato contratti con vari clienti, tra cui aziende Fortune 100 non nominate, affrontando le loro pressanti esigenze di minore latenza dell'IA e maggiore velocità, secondo Ermon. “I nostri modelli possono sfruttare le GPU in modo significativamente più efficiente”, ha affermato Ermon, riferendosi alle unità di elaborazione grafica tipicamente impiegate per eseguire modelli di produzione. “Credo che questo sia trasformativo e cambierà il modo in cui vengono sviluppati i modelli linguistici. ” L'azienda offre un'API insieme a opzioni per distribuzioni on-premises e su dispositivi edge, supporto per il fine-tuning dei modelli e una gamma di DLM pronti per l'uso adattati a varie applicazioni. Inception afferma che i suoi DLM possono operare fino a 10 volte più velocemente degli LLM tradizionali, con costi che sono anch'essi 10 volte inferiori. Un rappresentante dell'azienda ha informato TechCrunch: “Il nostro modello di codifica ‘piccolo’ è equivalente alle prestazioni del mini [GPT-4o di OpenAI] ma opera a più di 10 volte la velocità. Il nostro modello ‘mini’ supera le piccole alternative open-source come [Llama 3. 1 8B di Meta], raggiungendo oltre 1. 000 token al secondo. ”