A francia AI startup, a Mistral AI, csütörtökön bemutatta egy új tartalommoderálási API-ját, melynek célja, hogy kihívást jelentsen az OpenAI és más AI élvonalbeli cégek számára, miközben foglalkozik az AI biztonsága körüli növekvő aggodalmakkal. A szolgáltatás, a Mistral's Ministral 8B modell továbbfejlesztett változatát használva, kilenc kategóriában azonosítja a potenciálisan káros tartalmakat, például a szexuális tartalmat, a gyűlöletbeszédet, az erőszakot és a személyes információkat. Képes elemezni mind szövegeket, mind beszélgetéseket. „A biztonság kulcsfontosságú az AI hasznossá tételéhez” – állította a Mistral csapata. „Úgy gondoljuk, hogy a rendszer szintű védvonalak létfontosságúak az alsóbb szintű bevezetésekkel kapcsolatos védelemben. ” A többnyelvű moderálási képességekkel rendelkező Mistral készen áll arra, hogy versenyezzen az OpenAI-val. Ez az indítás akkor történik, amikor az AI ipar nyomás alatt áll a technológiai védelmi intézkedések fokozására. Nemrégiben a Mistral és más AI vállalatok aláírták az Egyesült Királyság AI Biztonsági Csúcstalálkozójának megállapodását, elkötelezve magukat a felelősségteljes AI fejlesztés mellett. Az API már integrálva van a Mistral Le Chat platformjába, és 11 nyelvet támogat, köztük az arabot, kínait és spanyolt, előnyt szerezve ezzel néhány versenytársával szemben, akik főleg az angol tartalomra összpontosítanak. „Az LLM-alapú moderálási rendszerek iránti érdeklődés növekszik, mivel lehetőséget kínálnak skálázható és robusztus megoldásokkal különféle alkalmazásokban” – nyilatkozta a vállalat. A Mistral befolyása a vállalati AI szektorban bővül jelentős partnerségekkel, mint a Microsoft Azure, Qualcomm és SAP, megerősítve álláspontját az üzleti AI piacon.

Az SAP tervezi, hogy a Mistral modelleket, beleértve a Mistral Large 2-t, a saját infrastruktúráján fogja tárolni, hogy biztonságos, európai szabályozásoknak megfelelő AI megoldásokat kínáljon. A Mistral kiemelkedik élvonalbeli számítástechnikai és átfogó biztonsági funkcióival. Az OpenAI és Anthropic felhőalapú megoldásaival ellentétben a Mistral készüléken futó AI és moderációs megközelítése foglalkozik az adatvédelem, késleltetés és megfelelőség kérdéseivel, különösen az európai vállalatok számára, amelyek szigorú adatvédelmi szabályozásoknak kell megfeleljenek. Technikailag kifinomult, Mistral modellje túllép az elszigetelt szövegelemzésen, hogy megértse a beszélgetési kontextust, potenciálisan elcsípve azokat a finom káros tartalmakat, amelyeket egyszerűbb szűrők esetleg figyelmen kívül hagyhatnának. A moderálási API azonnal elérhető a Mistral felhőplatformján keresztül, használat alapú árazással. A vállalat folyamatos fejlesztéseket tervez az ügyfél-visszajelzések és a változó biztonsági követelmények alapján. A Mistral megjelenése kiemeli az AI gyorsan változó tájképet. Alig egy évvel ezelőtt ez a párizsi székhelyű startup nem létezett. Most befolyásolja a vállalati nézeteket az AI biztonságáról. Egy olyan ágazatban, amelyet amerikai óriások vezetnek, a Mistral európai hangsúlya a magánéletre és a biztonságra lehet a kulcsa az előnyhöz.