Inanunsyo ng Mistral AI, isang mabilis na lumalaking European startup sa artificial intelligence, ngayon ang paglulunsad ng isang bagong language model na sinasabi nitong nagbibigay ng performance na katumbas ng mga modelong tatlong beses ang laki nito habang malaking binabawasan ang mga gastos sa computing. Ang pag-unlad na ito ay may potensyal na baguhin ang ekonomiyang tanawin para sa pagpapa-deploy ng advanced AI. Pinangalanang Mistral Small 3, ang modelong ito ay may 24 bilyong parameter at nakakamit ang 81% accuracy sa mga standard benchmarks, nagpoproseso ng 150 tokens bawat segundo. Ginagawa itong available ng kumpanya sa ilalim ng open Apache 2. 0 license, na nagbibigay sa mga negosyo ng kalayaan na baguhin at i-deploy ito ayon sa kanilang nais. Sinabi ni Guillaume Lample, chief science officer ng Mistral, sa isang eksklusibong talakayan kasama ang VentureBeat, "Tinuturing namin itong pinakamahusay na model sa mga may mas kaunting 70 bilyong parameter. Tinataya naming ito ay halos katumbas ng Meta's Llama 3. 3 70B, na inilabas ilang buwan na ang nakararaan at tatlong beses na mas malaki. " Dumating ang anunsyo na ito sa gitna ng mas mataas na pagsusuri sa mga gastos sa pagpapaunlad ng AI. Ang Chinese startup na DeepSeek ay nag-claim na nakapag-train ng isang competitive na modelo para lamang sa $5. 6 milyon, isang pahayag na nagresulta sa halos $600 bilyong pagkawala sa market valuation ng Nvidia ngayong linggo, habang muling pinag-isipan ng mga namumuhunan ang malalaking pamumuhunan na ginawa ng mga tech company sa U. S. Binibigyang-diin ng estratehiya ng Mistral ang kahusayan sa halip na laki. Ipinapahayag ng kumpanya na ang kanilang mga pagpapahusay sa performance ay pangunahing nagmula sa mga pinabuting teknika sa training, na iniiwasan ang diskarteng basta't pataasin ang computational power. "Ang nagbago ay sa esensya ang mga pamamaraan ng optimization sa training, " ipinaliwanag ni Lample sa VentureBeat. "Nagtanggap kami ng ibang estratehiya sa training upang i-optimize ang model. " Ayon kay Lample, ang modelo ay na-train sa 8 trilyong tokens, habang ang mga katulad na modelo ay nangangailangan ng humigit-kumulang 15 trilyong tokens.

Ang pinalakas na kahusayan na ito ay maaaring gawing mas accessible ang advanced AI technology sa mga negosyo na nag-aalala sa mga gastos sa computing. Mahalaga, ang Mistral Small 3 ay nilikha nang walang reinforcement learning o synthetic training data—mga pamamaraan na madalas gamitin ng mga kakumpetensya. Binanggit ni Lample na ang "raw" methodology na ito ay tumutulong upang maiwasan ang pagsasama ng mga di-kanais-nais na bias na maaaring mahirap tukuyin mamaya. Partikular na nakatuon ang modelo sa mga kumpanya na nangangailangan ng on-premises na deployment para sa privacy at pagiging maaasahan, tulad ng mga nasa financial services, healthcare, at manufacturing. Nag-ooperate ito sa isang GPU at tinutugunan ang 80-90% ng mga standard na aplikasyon sa negosyo, ayon sa kumpanya. "Maraming sa aming mga kliyente ang mas gusto ang on-premises na solusyon dahil sa kanilang mga alalahanin tungkol sa privacy at pagiging maaasahan, " sabi ni Lample. "Nais nila na ang mga kritikal na serbisyo ay suportado ng mga sistemang ganap nilang makokontrol. " Ang Mistral, na may valuation na $6 bilyon, ay nagtataguyod ng sarili bilang nangungunang kalaban ng Europa sa pandaigdigang larangan ng AI. Kamakailan ay nakakuha ang kumpanya ng pamumuhunan mula sa Microsoft at nagpaplano para sa isang hinaharap na IPO, gaya ng binigyang-diin ni CEO Arthur Mensch. Iminungkahi ng mga eksperto sa industriya na ang dedikasyon ng Mistral sa pagbuo ng mas maliliit at mas epektibong mga modelo ay maaaring maging estratehikong matalino habang nagbabago ang sector ng AI. Ang diskarteng ito ay kabaligtaran sa mga landas na tinahak ng mga kumpanya tulad ng OpenAI at Anthropic, na nakatuon sa paglikha ng mas malalaki at mas mahal na modelo. Ipinahayag ni Lample ang kanyang hula, na nagsasaad, "Malamang na makita natin ang pag-uulit ng nangyari noong 2024, marahil sa mas malaking sukat—isang pagdagsa ng open-source na mga modelo na may napaka-luwag na lisensya. Naniniwala kami na ang mga conditional na modelo ay malamang na maging commodities. " Sa pagtaas ng kumpetisyon at pagpapabuti ng kahusayan, ang pokus ng Mistral sa pag-optimize ng mas maliliit na modelo ay maaaring magbigay-daan sa mas malawak na access sa advanced na teknolohiya ng AI, na posibleng pabilis ang pag-aampon ng industriya habang binabawasan ang mga gastos na nauugnay sa imprastruktura ng computing.