De Franse AI-startup Mistral AI onthulde donderdag een nieuwe content moderatie-API, met als doel OpenAI en andere AI-koplopers uit te dagen en tegelijkertijd in te spelen op de toenemende zorgen over AI-veiligheid. De dienst, die gebruikmaakt van een verfijnde versie van Mistral’s Ministral 8B-model, identificeert mogelijk schadelijke inhoud in negen categorieën, zoals seksuele inhoud, haatzaaiende uitlatingen, geweld en persoonlijke informatie. Het kan zowel tekst als gesprekken analyseren. "Veiligheid is cruciaal om AI nuttig te maken, " verklaarde het team van Mistral. "Wij geloven dat systeem-brede waarborgen essentieel zijn voor het beschermen van latere toepassingen. " Met meertalige moderatiemogelijkheden is Mistral goed gepositioneerd om te concurreren met OpenAI. Deze lancering vindt plaats terwijl de AI-industrie onder druk staat om de technologische veiligheid te verbeteren. Onlangs ondertekenden Mistral en andere AI-bedrijven de UK AI Safety Summit-verklaring, waarin ze zich inzetten voor verantwoorde AI-ontwikkeling. De API is al geïntegreerd in Mistral’s Le Chat-platform en ondersteunt 11 talen, waaronder Arabisch, Chinees en Spaans, wat het een voorsprong geeft op sommige concurrenten die zich voornamelijk richten op Engelstalige inhoud. "De interesse in LLM-gebaseerde moderatiesystemen groeit, en biedt schaalbare en robuuste opties voor verschillende toepassingen, " aldus het bedrijf. Mistral’s invloed in zakelijke AI breidt zich uit door grote partnerschappen met Microsoft Azure, Qualcomm en SAP, waardoor het zijn positie in de enterprise AI-markt versterkt.

SAP is van plan om de modellen van Mistral, waaronder Mistral Large 2, op zijn infrastructuur te hosten om veilige en aan de Europese regelgeving conforme AI-oplossingen te bieden. Mistral onderscheidt zich door zijn focus op edge computing en uitgebreide veiligheidskenmerken. In tegenstelling tot de cloud-gebaseerde oplossingen van OpenAI en Anthropic, pakt Mistral’s on-device AI- en moderatiebenadering kwesties aan rond gegevensprivacy, latency en naleving, wat vooral aantrekkelijk is voor Europese bedrijven die worden geconfronteerd met strenge gegevensreguleringen. Technisch geavanceerd gaat Mistral’s model verder dan geïsoleerde tekstanalyse om de context van gesprekken te begrijpen, waardoor het mogelijk subtiele schadelijke inhoud kan opvangen die eenvoudigere filters mogelijk missen. De moderatie-API is onmiddellijk beschikbaar via Mistral’s cloudplatform, met prijsstelling op basis van gebruik. Het bedrijf plant doorlopende verbeteringen op basis van klantfeedback en zich ontwikkelende veiligheidsvereisten. Het ontstaan van Mistral benadrukt het snel veranderende AI-landschap. Nog maar een jaar geleden bestond deze startup uit Parijs niet. Nu beïnvloedt het de zakelijke opvattingen over AI-veiligheid. In een sector die wordt geleid door Amerikaanse giganten, zou Mistral’s Europese nadruk op privacy en beveiliging weleens zijn sleutelvoordeel kunnen zijn.