Французький стартап Mistral AI у четвер представив новий API для модерації контенту, намагаючись кинути виклик OpenAI та іншим лідерам у сфері штучного інтелекту, одночасно вирішуючи питання безпеки ІІ. Сервіс, використовуючи вдосконалену версію моделі Ministral 8B від Mistral, виявляє потенційно небезпечний контент у дев'яти категоріях, таких як сексуальний контент, мова ворожнечі, насильство та особиста інформація. Він може аналізувати як текст, так і розмови. "Безпека є ключем до корисності ІІ, " заявила команда Mistral. "Ми вважаємо, що системні захисні заходи є життєво важливими для захисту кінцевих розгортань. " З можливостями багатомовної модерації Mistral готовий конкурувати з OpenAI. Цей запуск відбувається під тиском покращення технологічних засобів захисту в галузі ІІ. Нещодавно Mistral та інші компанії з ІІ підписали угоду на саміті з безпеки ІІ у Великій Британії, зобов'язавшись розвивати ІІ відповідально. API вже інтегровано в платформу Mistral "Le Chat", яка підтримує 11 мов, зокрема арабську, китайську та іспанську, надаючи йому перевагу над деякими конкурентами, сфокусованими головним чином на англомовному контенті. "Інтерес до систем модерації, що базуються на великих мовних моделях, зростає, пропонуючи масштабовані та надійні рішення для різних застосувань, " заявила компанія. Вплив Mistral у корпоративній сфері ІІ зростає завдяки великим партнерствам з Microsoft Azure, Qualcomm та SAP, зміцнюючи свої позиції на ринку корпоративного ІІ.

SAP планує розміщувати моделі Mistral, включаючи "Mistral Large 2", на своїй інфраструктурі, щоб пропонувати безпечні рішення для ІІ, відповідні європейським нормам. Mistral вирізняється своїм фокусом на обчислення на периферії та всебічними засобами безпеки. На відміну від рішень на основі хмарних технологій OpenAI та Anthropic, підхід Mistral до ІІ на пристрої та модерації вирішує питання конфіденційності даних, затримок і відповідності, що особливо приваблює європейські компанії, які стикаються зі строгими нормами щодо даних. Технічно складна, модель Mistral виходить за межі ізольованого аналізу тексту, щоб зрозуміти контекст розмови, що потенційно дозволяє виявити тонко прихований небезпечний контент, який простіші фільтри можуть пропустити. Модераційний API вже доступний через хмарну платформу Mistral з тарифікацією на основі використання. Компанія планує постійні покращення на основі відгуків клієнтів та змінюваних вимог безпеки. З'явлення Mistral підкреслює швидкі зміни в ландшафті ІІ. Ще рік тому цей стартап, заснований у Парижі, не існував. Тепер він впливає на корпоративні погляди на безпеку ІІ. У сфері, яку очолюють американські гіганти, європейський акцент Mistral на конфіденційності та безпеці може стати його ключовою перевагою.