Fransız yapay zeka girişimi Mistral AI, OpenAI ve diğer AI öncülerine meydan okumayı ve yapay zeka güvenliği konusundaki artan endişeleri ele almayı hedefleyen yeni bir içerik denetleme API'sini Perşembe günü tanıttı. Mistral'ın Ministral 8B modelinin geliştirilmiş bir versiyonunu kullanan hizmet, cinsel içerik, nefret söylemi, şiddet ve kişisel bilgiler gibi dokuz kategoride potansiyel olarak zararlı içeriği belirliyor. Hem metin hem de konuşmaları analiz edebiliyor. “Güvenlik, yapay zekayı kullanışlı hale getirmenin anahtarıdır, ” dedi Mistral ekibi. “Sistem düzeyinde koruma bariyerlerinin, aşağı yöndeki dağıtımları korumak için hayati olduğuna inanıyoruz. ” Çok dilli denetleme yetenekleriyle Mistral, OpenAI ile rekabet etmeye hazır. Bu lansman, AI endüstrisinin teknoloji güvenlik önlemlerini artırma baskısıyla karşı karşıya kaldığı bir dönemde gerçekleşiyor. Son zamanlarda Mistral ve diğer yapay zeka şirketleri, sorumlu yapay zeka geliştirilmesine yönelik taahhütlerini belirten Birleşik Krallık Yapay Zeka Güvenlik Zirvesi anlaşmasını imzaladı. API, 11 dili, Arapça, Çince ve İspanyolca gibi dilleri destekleyen Mistral’ın Le Chat platformuna zaten entegre edilmiş durumda, ağırlıklı olarak İngilizce içeriğe odaklanan bazı rakiplere göre bir avantaj sağlıyor. “LLM tabanlı denetleme sistemlerine olan ilgi artıyor, uygulamalar genelinde ölçeklenebilir ve sağlam seçenekler sunuyor, ” dedi şirket. Mistral’ın kurumsal yapay zekadaki etkisi, Microsoft Azure, Qualcomm ve SAP gibi büyük iş birlikleriyle genişliyor ve kurumsal AI pazarındaki konumunu güçlendiriyor.

SAP, Mistral Large 2'nin de dahil olduğu Mistral modellerini altyapısında barındırarak güvenli, Avrupa düzenlemelerine uyumlu AI çözümleri sunmayı planlıyor. Mistral, uç bilgi işlem ve kapsamlı güvenlik özelliklerine odaklanmasıyla öne çıkıyor. OpenAI ve Anthropic’in bulut tabanlı çözümlerinden farklı olarak, Mistral’ın cihaz üzerinde çalışan AI ve denetleme yaklaşımı, veri gizliliği, gecikme ve uyumluluk sorunlarına yanıt veriyor, özellikle sıkı veri düzenlemeleriyle karşı karşıya olan Avrupa firmalarına hitap ediyor. Teknik açıdan sofistike olan Mistral’ın modeli, yalnızca izole metin analizinin ötesine geçerek konuşma bağlamını anlıyor ve basit filtrelerin kaçırabileceği ince zararlı içerikleri potansiyel olarak yakalayabiliyor. Denetleme API’si, kullanım bazlı fiyatlandırma ile Mistral’ın bulut platformu üzerinden hemen kullanılabilir durumda. Şirket, müşteri geri bildirimlerine ve gelişen güvenlik gereksinimlerine göre sürekli iyileştirme planları yapıyor. Mistral’ın ortaya çıkışı, hızla değişen yapay zeka manzarasına dikkat çekiyor. Sadece bir yıl önce bu Paris merkezli girişim yoktu. Şimdi ise kurumsal yapay zeka güvenliği konusundaki görüşleri etkiliyor. Amerikan devlerinin önderlik ettiği bir sektörde, Mistral’ın Avrupa odağı ile gizlilik ve güvenlik vurgusu, onun en önemli avantajı olabilir.