Француската AI стартап компанија Mistral AI во четвртокот објави нов API за модерација на содржина, со цел да им се спротивстави на OpenAI и другите водечки во AI индустријата, додека ги адресира зголемените грижи за безбедноста на AI. Услугата, користејќи рафинирана верзија на моделот Ministral 8B на Mistral, идентификува потенцијално штетна содржина во девет категории, како што се сексуална содржина, говор на омраза, насилство и лични информации. Може да анализира и текст и разговори. „Безбедноста е клучна за правење AI корисни, “ изјави тимот на Mistral. „Веруваме дека системските мерки за заштита се важни за заштита на субсегментите на технологијата. “ Со можности за модерација на повеќе јазици, Mistral е подготвен да се натпреварува со OpenAI. Оваа претставување се случува додека индустријата за AI е под притисок да ги подобри сигурносните мерки за технологијата. Неодамна, Mistral и други AI компании го потпишаа договорот на UK AI Safety Summit, ветувајќи дека ќе развиваат AI на одговорен начин. API-то веќе е интегрирано во платформата Le Chat на Mistral, поддржувајќи 11 јазици, вклучувајќи арапски, кинески и шпански, што му дава предност пред некои конкуренти фокусирани главно на содржина на англиски јазик. „Итересот за LLM-базирани системи за модерација расте, нудејќи скалабилни и робустни опции во различни апликации, “ изјави компанијата. Влијанието на Mistral во корпоративниот AI се проширува преку големи партнерства со Microsoft Azure, Qualcomm и SAP, зајакнувајќи ја својата позиција на пазарот за ентерпрајз AI.

SAP планира да ги хостира моделите на Mistral, вклучувајќи го и Mistral Large 2, на својата инфраструктура, за да понуди сигурни AI решенија кои се усогласени со европските регулативи. Mistral се истакнува со својот фокус на edge computing и сеопфатни безбедносни карактеристики. За разлика од облачните решенија на OpenAI и Anthropic, AI решенијата на Mistral кои се на уред и пристапот за модерација ги адресираат загриженоста за приватноста на податоците, латенцијата и усогласеноста, што им е особено привлечно на европските компании кои се соочуваат со строги регулативи за податоци. Технички софистицираниот модел на Mistral оди подалеку од изолирана анализа на текст за да разбере контекст на разговори, потенцијално фаќајќи суптилна штетна содржина која послаби филтри може да ја пропуштат. API-то за модерација е веднаш достапно преку облачната платформа на Mistral, со ценовна структура базирана на користење. Компанијата планира континуирани подобрувања базирани на повратни информации од клиенти и еволуирачки безбедносни барања. Појавувањето на Mistral го истакнува брзо менливиот пејзаж на AI. Само пред година дена, оваа париска стартап компанија не постоеше. Сега, таа ги влијае на корпоративните ставови за безбедноста на AI. Во сектор предводен од американски гиганти, европскиот акцент на Mistral на приватност и безбедност може да биде нејзината клучна предност.