Mistral AI, brzo rastući europski startup u području umjetne inteligencije, danas je najavio pokretanje novog jezičnog modela za koji tvrdi da isporučuje performanse jednake modelima koji su tri puta veći, uz značajno smanjenje troškova računanja. Ovo poboljšanje ima potencijal redefinirati ekonomski pejzaž za implementaciju napredne AI. Model nazvan Mistral Small 3 ima 24 milijarde parametara i postiže 81% točnosti na standardnim benchmark testovima, obrađujući 150 tokena u sekundi. Tvrtka ga stavlja na raspolaganje pod otvorenom Apache 2. 0 licencom, što poslovnim korisnicima omogućava slobodu modificiranja i implementacije prema vlastitim potrebama. Guillaume Lample, glavni znanstvenik u Mistralu, izjavio je u ekskluzivnoj raspravi s VentureBeatom: "Smatramo ga najboljim modelom među onima s manje od 70 milijardi parametara. Procjenjujemo da je otprilike usporediv s Meta-inim Llama 3. 3 70B, koji je objavljen prije nekoliko mjeseci i tri puta je veći. " Ova najava dolazi usred pojačanog nadzora nad troškovima razvoja AI-a. Kineski startup DeepSeek tvrdi da je obučio konkurentni model za samo 5, 6 milijuna dolara, izjava koja je rezultirala gubitkom od gotovo 600 milijardi dolara u tržišnoj vrednosti Nvidije ovog tjedna, dok su investitori preispitivali ogromne investicije američkih tehnoloških tvrtki. Mistralova strategija naglašava učinkovitost umjesto same veličine. Tvrtka većinom pripisuje svoje poboljšane performanse unaprijeđenim tehnikama obuke, izbjegavajući pristup jednostavnog povećanja računalne snage. "Ono što se promijenilo su zapravo metode optimizacije obuke, " objasnio je Lample za VentureBeat. "Usvojili smo drugačiju strategiju obuke kako bismo optimizirali model. " Prema Lampleu, model je treniran na 8 trilijuna tokena, dok slični modeli zahtijevaju oko 15 trilijuna tokena.

Ova poboljšana učinkovitost mogla bi učiniti naprednu AI tehnologiju dostupnijom poslovima koji su zabrinuti zbog troškova računalstva. Važno je napomenuti da je Mistral Small 3 stvoren bez metoda učenja s pojačanjem ili sintetičkih podataka za obuku—metode koje često koriste konkurenti. Lample je primijetio da ova "siromašna" metodologija pomaže u sprječavanju uključivanja neželjenih pristranosti koje bi moglo biti teško identificirati kasnije. Model je posebno namijenjen tvrtkama koje trebaju lokalnu implementaciju zbog privatnosti i pouzdanosti, poput onih u financijskim uslugama, zdravstvenoj zaštiti i proizvodnji. Radi na jednoj GPU jedinici i pokriva 80-90% standardnih poslovnih aplikacija, navodi tvrtka. "Mnogi naši klijenti preferiraju lokalno rješenje zbog svojih zabrinutosti oko privatnosti i pouzdanosti, " primijetio je Lample. "Žele da kritične usluge budu podržane sustavima koje mogu potpuno kontrolirati. " Mistral, s procijenjenom vrijednošću od 6 milijardi dolara, postavlja se kao vodeći konkurent Europe u globalnoj AI areni. Tvrtka je nedavno osigurala ulaganje od Microsofta i priprema se za buduću inicijalnu javnu ponudu (IPO), kako je istaknuo izvršni direktor Arthur Mensch. Stručnjaci u industriji sugeriraju da bi Mistralova posvećenost razvoju manjih, učinkovitijih modela mogla biti strateški mudra dok se sektor AI-a razvija. Ovaj pristup stoji u kontrastu s putevima koje su odabrali kompanije poput OpenAI i Anthropic, koje su se fokusirale na stvaranje sve većih i skupljih modela. Lample je iznio svoje predviđanje, rekavši: "Vjerojatno ćemo svjedočiti ponavljanju onoga što se dogodilo 2024. , potencijalno na većoj razini—dosipanje otvorenih modela s vrlo popustljivim licencama. Vjerujemo da će uvjetni modeli vjerojatno postati robna marka. " Kako konkurencija raste i učinkovitost se poboljšava, Mistralov fokus na optimiziranje manjih modela mogao bi olakšati širu dostupnost naprednoj AI tehnologiji, potencijalno ubrzavajući usvajanje u industriji uz smanjenje troškova povezanih s računalnom infrastrukturom.