Francúzsky startup Mistral AI vo štvrtok predstavil novú API na moderovanie obsahu, ktorá si kladie za cieľ konkurovať OpenAI a ďalším špičkovým AI spoločnostiam, pričom rieši narastajúce obavy o bezpečnosť AI. Služba využíva vylepšenú verziu modelu Mistral's Ministral 8B na identifikáciu potenciálne škodlivého obsahu v deviatich kategóriách, ako sú sexuálny obsah, nenávistné prejavy, násilie a osobné informácie. Dokáže analyzovať text aj konverzácie. "Bezpečnosť je kľúčová pre to, aby bola AI užitočná, " uviedol tím Mistralu. "Veríme, že systémové ochranné mechanizmy sú nevyhnutné na ochranu nasadzovania AI v ďalších procesoch. " Vďaka viacjazyčným schopnostiam moderovania je Mistral pripravený konkurovať OpenAI. Táto novinka prichádza v čase, keď na odvetvia AI narastá tlak na zvýšenie zabezpečenia technológií. Nedávno Mistral a ďalšie AI spoločnosti podpísali dohodu na summite UK AI Safety Summit, ktorá sa zaviazala k zodpovednému vývoju AI. API je už integrované do platformy Le Chat od Mistralu, podporujúcej 11 jazykov vrátane arabčiny, čínštiny a španielčiny, čo mu dáva výhodu oproti niektorým konkurentom zameraným hlavne na anglický obsah. "Záujem o moderovacie systémy založené na LLM rastie, ponúkajúc škálovateľné a robustné možnosti naprieč aplikáciami, " uviedla spoločnosť. Vplyv Mistralu v podnikovej AI sa rozširuje prostredníctvom hlavných partnerstiev s Microsoft Azure, Qualcomm a SAP, čím posilňuje svoju pozíciu na trhu podnikovej AI.

SAP plánuje hostovať modely Mistralu, vrátane Mistral Large 2, na svojej infraštruktúre, aby ponúkol bezpečné riešenia AI v súlade s európskymi reguláciami. Mistral vyniká svojím zameraním na edge computing a komplexné bezpečnostné funkcie. Na rozdiel od cloudových riešení OpenAI a Anthropic, Mistralova AI a prístup k moderovaniu na zariadení rieši problémy s ochranou dát, latenciou a súladom s predpismi, čo je zvlášť príťažlivé pre európske firmy čeliace prísnym dátovým reguláciám. Technicky sofistikovaný model Mistralu ide nad rámec izolovanej analýzy textu a snaží sa pochopiť kontext konverzácie, čo môže zachytiť jemný škodlivý obsah, ktorý by jednoduchšie filtre mohli prehliadnuť. Moderovacie API je okamžite dostupné prostredníctvom cloudovej platformy Mistralu s cenou založenou na používaní. Spoločnosť plánuje priebežné vylepšenia na základe spätnej väzby zákazníkov a vyvíjajúcich sa bezpečnostných požiadaviek. Vzostup Mistralu vyzdvihuje rýchlo sa meniaci svet AI. Len pred rokom tento parížsky startup ani neexistoval. Teraz ovplyvňuje názory firiem na bezpečnosť AI. V odvetví vedenom americkými gigantmi môže byť európsky dôraz Mistralu na súkromie a bezpečnosť jeho kľúčovou výhodou.