Mistral AI, szybko rozwijający się europejski startup zajmujący się sztuczną inteligencją, ogłosił dziś uruchomienie nowego modelu językowego, który, jak twierdzi, osiąga wydajność równą modelom trzykrotnie większym, przy jednoczesnym znacznym obniżeniu kosztów obliczeniowych. To osiągnięcie ma potencjał, aby zdefiniować na nowo krajobraz ekonomiczny dotyczący wdrażania zaawansowanej AI. Model nosi nazwę Mistral Small 3, charakteryzuje się 24 miliardami parametrów i osiąga 81% dokładności w standardowych benchmarkach, przetwarzając 150 tokenów na sekundę. Firma udostępnia go na wolnej licencji Apache 2. 0, co daje przedsiębiorstwom swobodę w modyfikowaniu i wdrażaniu go według własnego uznania. Guillaume Lample, dyrektor ds. nauki w Mistral, stwierdził w ekskluzywnej rozmowie z VentureBeat: „Uważamy, że to najlepszy model spośród tych z mniej niż 70 miliardami parametrów. Szacujemy, że jest porównywalny z Meta Llama 3. 3 70B, który został wydany kilka miesięcy temu i jest trzy razy większy. ” To ogłoszenie pojawia się w czasie wzmożonej kontroli kosztów rozwoju AI. Chiński startup DeepSeek twierdził, że wytrenuje konkurencyjny model za jedyne 5, 6 miliona dolarów, co spowodowało spadek wartości rynkowej Nvidia o prawie 600 miliardów dolarów w tym tygodniu, ponieważ inwestorzy ponownie rozważali ogromne inwestycje amerykańskich firm technologicznych. Strategia Mistral kładzie nacisk na efektywność, a nie na samą skalę. Firma przypisuje swoje ulepszenia wydajności głównie poprawionym technikom treningowym, unikając podejścia polegającego tylko na zwiększaniu mocy obliczeniowej. „To, co się zmieniło, to w zasadzie metody optymalizacji treningu, ” wyjaśnił Lample VentureBeat. „Przyjęliśmy inną strategię treningu, aby zoptymalizować model. ” Według Lample'a, model był trenowany na 8 bilionach tokenów, podczas gdy podobne modele wymagają około 15 bilionów tokenów.

Ta poprawiona efektywność może uczynić zaawansowaną technologię AI bardziej dostępną dla firm zaniepokojonych kosztami obliczeniowymi. Co ważne, Mistral Small 3 został stworzony bez uczenia przez wzmocnienie lub syntetycznych danych treningowych—metod często stosowanych przez konkurencję. Lample zauważył, że ta „surowa” metodologia pomaga zapobiegać włączeniu niepożądanych uprzedzeń, które mogą być trudne do zidentyfikowania później. Model jest szczególnie skierowany do firm potrzebujących wdrożeń lokalnych ze względu na prywatność i niezawodność, takich jak te w sektorze usług finansowych, opieki zdrowotnej i produkcji. Działa na pojedynczym GPU i obejmuje 80-90% standardowych zastosowań biznesowych, jak podaje firma. „Wielu naszych klientów preferuje rozwiązanie lokalne z powodu obaw o prywatność i niezawodność, ” zauważył Lample. „Chcą, aby kluczowe usługi były wspierane przez systemy, które mogą w pełni kontrolować. ” Mistral, z wyceną 6 miliardów dolarów, ustawia się jako wiodący konkurent Europy na globalnej arenie AI. Firma niedawno zdobyła inwestycję od Microsoftu i przygotowuje się do przyszłej oferty publicznej, jak podkreślił CEO Arthur Mensch. Eksperci branżowi sugerują, że poświęcenie Mistral na rozwijanie mniejszych, bardziej wydajnych modeli może być strategicznie trafne w miarę ewolucji sektora AI. To podejście stoi w kontrze do ścieżek obranych przez takie firmy jak OpenAI i Anthropic, które skoncentrowały się na tworzeniu coraz większych i droższych modeli. Lample wyraził swoją prognozę, stwierdzając: „Prawdopodobnie będziemy świadkami powtórzenia tego, co miało miejsce w 2024 roku, potencjalnie na większą skalę—napływu modeli open-source z bardzo liberalnymi licencjami. Wierzymy, że modele warunkowe mają szansę stać się towarami. ” W miarę jak rośnie konkurencja i poprawia się efektywność, skoncentrowanie Mistral na optymalizacji mniejszych modeli może ułatwić szerszy dostęp do zaawansowanej technologii AI, potencjalnie przyspieszając jej adaptację w branży przy jednoczesnym obniżaniu kosztów związanych z infrastrukturą obliczeniową.