Inception, một công ty mới được thành lập tại Palo Alto, do giáo sư khoa học máy tính tại Stanford, Stefano Ermon, khởi xướng, tuyên bố đã tạo ra một mô hình AI tiên tiến sử dụng công nghệ "khuếch tán". Mô hình đổi mới này được gọi là mô hình ngôn ngữ lớn dựa trên khuếch tán, hay gọi tắt là “DLM”. Hiện tại, các mô hình AI sinh ra thu hút nhiều sự chú ý nhất có thể được phân loại thành hai loại chính: mô hình ngôn ngữ lớn (LLMs) và mô hình khuếch tán. LLMs, được thiết kế dựa trên kiến trúc transformer, chuyên về việc sinh văn bản. Ngược lại, mô hình khuếch tán, công nghệ đứng sau các nền tảng AI như Midjourney và Sora của OpenAI, chủ yếu tập trung vào việc tạo ra hình ảnh, video và âm thanh. Theo Inception, mô hình của họ kết hợp khả năng của các LLM thông thường - chẳng hạn như sinh mã và trả lời câu hỏi - với tốc độ được cải thiện đáng kể và chi phí tính toán thấp hơn. Ermon chia sẻ với TechCrunch rằng ông đã nghiên cứu lâu nay việc ứng dụng mô hình khuếch tán trong sinh văn bản tại phòng thí nghiệm nghiên cứu của mình tại Stanford. Công việc của ông bắt nguồn từ quan sát rằng các LLM truyền thống hoạt động chậm hơn so với các công nghệ khuếch tán. Với các LLM, Ermon giải thích: “Bạn không thể sinh từ thứ hai cho đến khi bạn đã tạo ra từ đầu tiên, và từ thứ ba không thể được sinh ra cho đến khi hai từ đầu tiên đã hoàn tất. ” Mong muốn tìm ra cách áp dụng cơ chế khuếch tán vào sinh văn bản, Ermon lưu ý rằng, khác với các LLM hoạt động tuần tự, các mô hình khuếch tán bắt đầu với một ước lượng thô về đầu ra (chẳng hạn như một hình ảnh) và tinh chỉnh dữ liệu một cách toàn diện trong một lần. Ermon giả thuyết rằng việc tạo ra và chỉnh sửa các khối văn bản lớn một cách song song có thể khả thi bằng cách sử dụng các mô hình khuếch tán.

Sau vài năm nghiên cứu, ông và một trong những sinh viên của mình đã đạt được một bước đột phá quan trọng, điều mà họ đã ghi lại trong một luận văn được xuất bản vào năm ngoái. Nhận thấy tiềm năng của sự tiến bộ này, Ermon đã thành lập Inception vào mùa hè năm ngoái, đưa vào đội ngũ các cựu sinh viên Aditya Grover, một giáo sư tại UCLA, và Volodymyr Kuleshov từ Đại học Cornell để đồng lãnh đạo công ty. Trong khi Ermon quyết định không tiết lộ cụ thể chi tiết tài trợ cho Inception, TechCrunch đã biết rằng Mayfield Fund là một trong những nhà đầu tư của công ty. Inception đã ký hợp đồng với nhiều khách hàng, bao gồm các công ty Fortune 100 chưa được nêu tên, bằng cách giải quyết các yêu cầu cấp bách của họ về độ trễ AI thấp hơn và tốc độ cao hơn, theo Ermon. “Mô hình của chúng tôi có thể tận dụng GPU hiệu quả hơn rất nhiều, ” Ermon khẳng định, nói về các đơn vị xử lý đồ họa thường được sử dụng để chạy các mô hình sản xuất. “Tôi tin rằng điều này có tính cách mạng và sẽ thay đổi cách phát triển các mô hình ngôn ngữ. ” Công ty cung cấp một API cùng với các tùy chọn triển khai tại chỗ và trên thiết bị biên, hỗ trợ tinh chỉnh mô hình và một loạt các DLM sẵn có được tùy chỉnh cho các ứng dụng khác nhau. Inception tuyên bố rằng các DLM của họ có thể hoạt động nhanh gấp 10 lần so với các LLM truyền thống trong khi chi phí cũng thấp hơn gấp 10 lần. Một đại diện của công ty thông báo với TechCrunch: “Mô hình lập trình ‘nhỏ’ của chúng tôi tương đương hiệu suất của GPT-4o mini [của OpenAI] nhưng vận hành nhanh hơn hơn 10 lần. Mô hình ‘mini’ của chúng tôi vượt xa các lựa chọn mã nguồn mở nhỏ như Llama 3. 1 8B [của Meta], đạt hơn 1. 000 token mỗi giây. ”