Mistral AI, en hastigt voksende europæisk startup inden for kunstig intelligens, meddelte i dag lanceringen af en ny sprogmodel, som de hævder leverer ydeevne svarende til modeller, der er tre gange så store, samtidig med at computing-omkostningerne reduceres markant. Denne fremskridt har potentialet til at redefinere det økonomiske landskab for implementering af avanceret AI. Den nye model, Mistral Small 3, har 24 milliarder parametre og opnår 81% nøjagtighed på standard benchmarks ved at behandle 150 tokens per sekund. Virksomheden tilbyder den under den åbne Apache 2. 0-licens, hvilket giver virksomheder frihed til at modificere og implementere den som de ønsker. Guillaume Lample, Mistrals chef for videnskab, udtalte i en eksklusiv diskussion med VentureBeat: "Vi anser den for at være den bedste model blandt dem med færre end 70 milliarder parametre. Vi vurderer, at den er stort set sammenlignelig med Metas Llama 3. 3 70B, som blev udgivet for et par måneder siden og er tre gange større. " Denne meddelelse kommer midt i øget kontrol over omkostningerne ved AI-udvikling. Den kinesiske startup DeepSeek hævdede at have trænet en konkurrencedygtig model for kun 5, 6 millioner dollars, en udtalelse der resulterede i et næsten 600 milliarder dollars tab i Nvidias markedsværdi denne uge, da investorer genovervejede de massive investeringer foretaget af amerikanske tech-virksomheder. Mistrals strategi lægger vægt på effektivitet frem for blot skala. Virksomheden tilskriver sine ydeevneforbedringer primært til forbedrede træningsteknikker og undgår tilgangen med blot at øge den computermæssige kapacitet. "Hvad der er ændret, er i bund og grund metoderne til træningsoptimering, " forklarede Lample til VentureBeat. "Vi vedtog en anden træningsstrategi for at optimere modellen. " Ifølge Lample blev modellen trænet på 8 trillioner tokens, mens lignende modeller kræver omkring 15 trillioner tokens.

Denne forbedrede effektivitet kunne gøre avanceret AI-teknologi mere tilgængelig for virksomheder, der bekymrer sig om omkostningerne ved computing. Det er vigtigt at bemærke, at Mistral Small 3 blev skabt uden forstærkningslæring eller syntetiske træningsdata—metoder der ofte anvendes af konkurrenter. Lample bemærkede, at denne "rå" metode hjælper med at forhindre indarbejdelsen af uønskede bias, som kan være svære at identificere senere hen. Modellen er særligt rettet mod virksomheder, der har brug for lokal implementering af hensyn til privatliv og pålidelighed, såsom dem inden for finansielle tjenesteydelser, sundhedspleje og fremstilling. Den kører på en enkelt GPU og adresserer 80-90% af standard forretningsapplikationer, oplyser virksomheden. " mange af vores kunder foretrækker en lokal løsning på grund af deres bekymringer om privatliv og pålidelighed, " bemærkede Lample. "De ønsker, at kritiske tjenester skal understøttes af systemer, de kan have fuld kontrol over. " Mistral, med en værdiansættelse på 6 milliarder dollars, etablerer sig som Europas førende deltager på den globale AI-scene. Virksomheden har for nylig sikret sig investering fra Microsoft og forbereder sig på en fremtidig børsnotering, som fremhævet af CEO Arthur Mensch. Brancheeksperter antyder, at Mistrals dedikation til at udvikle mindre, mere effektive modeller kan være strategisk klogt, efterhånden som AI-sektoren udvikler sig. Denne tilgang står i kontrast til de veje, som virksomheder som OpenAI og Anthropic har taget, som har fokuseret på at skabe stadig større og dyrere modeller. Lample udtrykte sin prognose og sagde: "Vi sandsynligvis vil være vidne til et tilbagefald af, hvad der skete i 2024, potentielt i en større skala—en tilstrømning af open-source modeller med meget tilladende licenser. Vi tror, at betingede modeller sandsynligvis vil blive varer. " Som konkurrencen intensiveres og effektiviteten forbedres, kunne Mistrals fokus på at optimere mindre modeller muliggøre bredere adgang til avanceret AI-teknologi, potentielt fremskynde industrien adoption, samtidig med at omkostningerne forbundet med computing-infrastruktur reduceres.