Francoski startup Mistral AI je v četrtek predstavil nov API za moderiranje vsebin, s čimer želi izzvati OpenAI in druge vodilne na področju umetne inteligence, hkrati pa odgovoriti na naraščajoče skrbi glede varnosti AI. Storitev, ki uporablja izpopolnjeno različico Mistralovega modela Ministral 8B, prepoznava potencialno škodljive vsebine v devetih kategorijah, kot so spolne vsebine, sovražni govor, nasilje in osebni podatki. Sposoben je analizirati tako besedilo kot pogovore. "Varnost je ključna za uporabnost AI, " je izjavila ekipa Mistrala. "Verjamemo, da so sistemske omejitve bistvenega pomena za zaščito nadaljnjih implementacij. " Z večjezičnimi sposobnostmi moderiranja je Mistral pripravljen konkurirati OpenAI. Ta lansiranje se dogaja v času, ko je industrija AI pod pritiskom za izboljšanje tehnoloških zaščit. Pred kratkim so Mistral in druge AI družbe podpisale sporazum na britanskem Vrhuncu varnosti AI, zavezujoc se k odgovornemu razvoju AI. API je že integriran v Mistralovo platformo Le Chat, ki podpira 11 jezikov, vključno z arabščino, kitajščino in španščino, kar mu daje prednost pred nekaterimi konkurenti, ki se osredotočajo predvsem na vsebine v angleščini. "Zanimanje za sisteme moderacije, temelječe na velikih jezikovnih modelih (LLM), narašča, saj ponujajo skalabilne in zanesljive možnosti za različne aplikacije, " je navedlo podjetje. Mistralov vpliv v korporacijski AI se širi preko velikih partnerstev z Microsoft Azure, Qualcomm in SAP, kar krepi njegov položaj na tržišču AI za podjetja.

SAP namerava gostiti Mistralove modele, vključno z Mistral Large 2, na svoji infrastrukturi za ponudbo varnih, z evropskimi predpisi združljivih AI rešitev. Mistral izstopa s svojim poudarkom na robnem računalništvu in celovitih varnostnih funkcijah. V nasprotju z OpenAI in Anthropicovimi rešitvami na osnovi oblaka, Mistralov pristop AI in moderiranja na napravi obravnava vprašanja zasebnosti podatkov, zakasnitev in skladnosti, kar je še posebej privlačno za evropska podjetja, ki se soočajo s strogimi predpisi glede varstva podatkov. Tehnično napreden Mistralov model presega izolirano analizo besedila, saj razume kontekst pogovora, kar omogoča zaznavanje subtilne škodljive vsebine, ki bi jo enostavnejši filtri morda spregledali. API za moderiranje je takoj na voljo preko Mistralove oblačne platforme, s ceno na osnovi uporabe. Podjetje načrtuje stalne izboljšave na podlagi povratnih informacij strank in razvijajočih se varnostnih zahtev. Pojav Mistrala izpostavlja hitro spreminjajočo se pokrajino AI. Pred letom dni ta pariški startup še ni obstajal. Zdaj vpliva na poglede podjetij glede varnosti AI. V sektorju, ki ga vodijo ameriški velikani, je Mistralova evropska osredotočenost na zasebnost in varnost lahko njegova ključna prednost.