Mistral AI, rychle rostoucí evropský startup v oblasti umělé inteligence, dnes oznámil spuštění nového jazykového modelu, který podle jeho tvrzení dosahuje výkonu srovnatelného s modely třikrát většími, přičemž výrazně snižuje výdaje na výpočetní výkon. Tento pokrok má potenciál redefinovat ekonomickou krajinu pro nasazení pokročilé AI. Model nazvaný Mistral Small 3 má 24 miliard parametrů a dosahuje 81% přesnosti v standardních benchmarkových testech, přičemž zpracovává 150 tokenů za sekundu. Společnost ho zpřístupňuje pod otevřenou licencí Apache 2. 0, což podnikům poskytuje svobodu model upravit a nasadit podle svých potřeb. Guillaume Lample, hlavní vědecký pracovník společnosti Mistral, uvedl v exkluzivním rozhovoru pro VentureBeat: „Považujeme ho za nejlepší model mezi těmi, které mají méně než 70 miliard parametrů. Odhadujeme, že je zhruba srovnatelný s Meta's Llama 3. 3 70B, který byl uveden před několika měsíci a je třikrát větší. “ Toto oznámení přichází v době zvýšené pozornosti věnované nákladům na vývoj AI. Čínský startup DeepSeek tvrdil, že trénoval konkurenční model za pouhých 5, 6 milionu dolarů, což vedlo k téměř 600 miliardovému poklesu tržní hodnoty Nvidia tento týden, když investoři znovu zvážili obrovské investice amerických technologických firem. Strategie Mistral zdůrazňuje efektivitu před pouhým rozsahem. Společnost připsala zlepšení výkonu převážně vylepšeným technikám trénování, a vyhla se přístupu, který spočívá pouze ve zvyšování výpočetní síly. „Co se změnilo, jsou v podstatě metody optimalizace trénování, “ vysvětlil Lample pro VentureBeat. „Přijali jsme jinou strategii trénování, abychom optimalizovali model. “ Podle Lample byl model trénován na 8 trilionech tokenech, zatímco podobné modely vyžadují asi 15 trilionů tokenů.

Tato zvýšená efektivita by mohla učinit pokročilou technologii AI dostupnější pro podniky, které se obávají výpočetních nákladů. Je důležité, že Mistral Small 3 byl vytvořen bez učení s posilováním nebo syntetických tréninkových dat — metod, které často používají konkurenti. Lample poznamenal, že tato „surová“ metodologie pomáhá zabránit začlenění nežádoucích předsudků, které by mohly být později obtížně identifikovatelné. Model je zejména zaměřen na společnosti, které potřebují nasazení na místě pro ochranu soukromí a spolehlivost, například firmy ve finančních službách, zdravotnictví a výrobě. Pracuje na jediném GPU a pokrývá 80-90% standardních obchodních aplikací, uvádí firma. „Mnoho našich klientů preferuje řešení na místě kvůli jejich obavám o soukromí a spolehlivost, “ poznamenal Lample. „Chtějí, aby byly kritické služby podporovány systémy, kterými mohou plně kontrolovat. “ Mistral, s oceněním 6 miliard dolarů, se etabloval jako hlavní uchazeč v evropské aréně globální AI. Společnost nedávno zajistila investici od Microsoftu a připravuje se na budoucí IPO, jak upozornil CEO Arthur Mensch. Odborníci v oboru naznačují, že Mistralova oddanost vývoji menších, efektivnějších modelů může být strategicky prozíravá, protože sektor AI se vyvíjí. Tento přístup stojí v kontrastu s cestami, kterými se vydaly společnosti jako OpenAI a Anthropic, jež se zaměřily na vytváření stále větších a dražších modelů. Lample vyjádřil svůj předpoklad, že „pravděpodobně budeme svědky opakování toho, co se stalo v roce 2024, potenciálně ve větším měřítku — přílivu otevřených modelů s velmi povolenými licencemi. Věříme, že podmínkové modely se pravděpodobně stanou komoditami. “ Jak se zvyšuje konkurence a zlepšuje efektivita, by se Mistralovým zaměřením na optimalizaci menších modelů mohlo usnadnit širší přístup k pokročilé technologii AI, což by mohlo urychlit přijetí v průmyslu a snížit náklady spojené s výpočetní infrastrukturou.