La startup française Mistral AI a dévoilé jeudi une nouvelle API de modération de contenu, visant à défier OpenAI et d'autres leaders de l'IA tout en répondant aux préoccupations croissantes concernant la sécurité de l'IA. Le service, utilisant une version affinée du modèle Ministral 8B de Mistral, identifie les contenus potentiellement nuisibles dans neuf catégories, telles que le contenu sexuel, les discours de haine, la violence et les informations personnelles. Il peut analyser à la fois du texte et des conversations. "La sécurité est essentielle pour rendre l'IA utile", a déclaré l'équipe de Mistral. "Nous pensons que des garde-fous au niveau du système sont essentiels pour protéger les déploiements en aval. " Avec des capacités de modération multilingue, Mistral est prêt à concurrencer OpenAI. Ce lancement intervient alors que l'industrie de l'IA subit des pressions pour améliorer les mesures de sécurité technologique. Récemment, Mistral et d'autres entreprises d'IA ont signé l'accord du Sommet sur la sécurité de l'IA au Royaume-Uni, s'engageant à développer l'IA de manière responsable. L'API est déjà intégrée à la plateforme Le Chat de Mistral, prenant en charge 11 langues, dont l'arabe, le chinois et l'espagnol, lui donnant un avantage sur certains concurrents qui se concentrent principalement sur le contenu en anglais. "L'intérêt pour les systèmes de modération basés sur les LLM croît, offrant des options évolutives et robustes à travers les applications", a déclaré la société. L'influence de Mistral dans le domaine de l'IA d'entreprise s'étend grâce à des partenariats majeurs avec Microsoft Azure, Qualcomm et SAP, renforçant sa position sur le marché de l'IA pour les entreprises.

SAP prévoit d'héberger les modèles de Mistral, y compris Mistral Large 2, sur son infrastructure pour offrir des solutions d'IA sécurisées et conformes aux régulations européennes. Mistral se distingue par son focus sur l'informatique de pointe et ses fonctionnalités de sécurité complètes. Contrairement aux solutions basées sur le cloud d'OpenAI et d'Anthropic, l'approche d'IA sur appareil et de modération de Mistral répond aux préoccupations de confidentialité des données, de latence et de conformité, séduisant particulièrement les entreprises européennes confrontées à des réglementations strictes en matière de données. Techniquement sophistiqué, le modèle de Mistral va au-delà de l'analyse de texte isolé pour comprendre le contexte conversationnel, permettant potentiellement de détecter des contenus nuisibles subtils que des filtres simples pourraient manquer. L'API de modération est immédiatement disponible via la plateforme cloud de Mistral, avec un modèle de tarification basé sur l'utilisation. La société prévoit des améliorations continues basées sur les retours des clients et l'évolution des exigences en matière de sécurité. L'émergence de Mistral souligne le paysage en évolution rapide de l'IA. Il y a tout juste un an, cette startup basée à Paris n'existait pas. Maintenant, elle influence les vues des entreprises sur la sécurité de l'IA. Dans un secteur dominé par les géants américains, l'accent mis par Mistral sur la confidentialité et la sécurité en Europe pourrait être son atout clé.