استارتاپ هوش مصنوعی فرانسوی Mistral AI روز پنجشنبه از یک API نظارت بر محتوا رونمایی کرد که قصد دارد با OpenAI و دیگر شرکت‌های پیشرو هوش مصنوعی رقابت کند و در عین حال به نگرانی‌های روزافزون در مورد ایمنی هوش مصنوعی پاسخ دهد. این سرویس با استفاده از نسخه‌ی بهبود یافته‌ی مدل Ministral 8B از Mistral، محتوای بالقوه مضر را در ۹ دسته‌بندی شناسایی می‌کند، از جمله محتوای جنسی، سخنان نفرت‌انگیز، خشونت و اطلاعات شخصی. این سیستم قادر به تحلیل متن و مکالمات است. تیم Mistral بیان داشت: "ایمنی کلید استفاده‌ی مؤثر از هوش مصنوعی است. ما معتقدیم راهکارهای حفاظتی سطح سیستم برای محافظت از کاربردهای پایین‌دستی ضروری هستند. " با قابلیت‌های نظارت چندزبانه، Mistral آماده است تا با OpenAI رقابت کند. این رونمایی در زمانی رخ داده که صنعت هوش مصنوعی تحت فشار است تا تدابیر ایمنی فناوری را ارتقا دهد. اخیراً، Mistral و دیگر شرکت‌های هوش مصنوعی توافق‌نامه‌ای در اجلاس ایمنی هوش مصنوعی بریتانیا امضا کردند و به توسعه‌ی مسئولانه‌ی هوش مصنوعی متعهد شدند. این API به‌طور مستقیم با پلتفرم «Le Chat» Mistral یکپارچه‌سازی شده و از ۱۱ زبان از جمله عربی، چینی و اسپانیایی پشتیبانی می‌کند که به آن نسبت به برخی رقبا که عمدتاً بر محتوای انگلیسی متمرکز هستند، مزیت می‌بخشد. این شرکت اظهار داشت: "علاقه به سیستم‌های نظارت بر اساس مدل‌های زبان بزرگ (LLM) در حال افزایش است، و گزینه‌های مقیاس‌پذیر و قوی برای کاربری‌های مختلف ارائه می‌دهد. " نفوذ Mistral در حوزه هوش مصنوعی شرکتی در حال گسترش است، از طریق مشارکت‌های بزرگ با Microsoft Azure، Qualcomm و SAP، موقعیت خود را در بازار هوش مصنوعی سازمانی تقویت کرده است.

SAP برنامه‌ریزی دارد مدل‌های Mistral، از جمله Mistral Large 2، را بر روی زیرساخت خود میزبانی کند تا راه‌حل‌های هوش مصنوعی مطمئن و مطابق با مقررات اروپایی ارائه دهد. Mistral با تمرکز بر محاسبات لبه و ویژگی‌های ایمنی جامع خود متمایز است. برخلاف راه‌حل‌های مبتنی بر ابر OpenAI و Anthropic، رویکرد Mistral در مورد هوش مصنوعی و نظارت بر روی دستگاه به نگرانی‌های مربوط به حریم خصوصی داده، تأخیر زمانی و مطابقت با مقررات پاسخ می‌دهد، که برای شرکت‌های اروپایی که با مقررات سختگیرانه‌ی داده روبرو هستند، جذاب است. از نظر فنی پیچیده، مدل Mistral فراتر از تحلیل متنی منفرد عمل می‌کند تا زمینه‌ی مکالمه را درک کند، و بدین‌ترتیب قابلیت شناسایی محتوای مضر ظریفی که فیلترهای ساده‌تر ممکن است از دست بدهند، را دارد. API نظارت بلافاصله از طریق پلتفرم ابری Mistral با قیمت‌گذاری مبتنی بر استفاده در دسترس است. این شرکت برنامه‌ریزی دارد بر اساس بازخورد مشتریان و الزامات ایمنی در حال تغییر، بهبودهای مداومی را اعمال کند. ظهور Mistral نشان‌دهنده‌ی تغییر سریع چشم‌انداز هوش مصنوعی است. تنها یک سال پیش، این استارتاپ مستقر در پاریس وجود نداشت. اکنون، دیدگاه شرکت‌ها را نسبت به ایمنی هوش مصنوعی تحت تأثیر قرار داده است. در بخشی که تحت سلطه غول‌های آمریکایی است، تأکید اروپایی Mistral بر حریم خصوصی و امنیت می‌تواند مزیت کلیدی آن باشد.