Det franske AI-selskapet Mistral AI lanserte torsdag en ny innholdsmoderering-API, med mål om å utfordre OpenAI og andre ledende aktører innen AI samtidig som de adresserer økende bekymringer rundt AI-sikkerhet. Tjenesten, som bruker en finjustert versjon av Mistrals Ministral 8B-modell, identifiserer potensielt skadelig innhold i ni kategorier, som seksuelt innhold, hatprat, vold og personlig informasjon. Den kan analysere både tekst og samtaler. "Sikkerhet er nøkkelen til å gjøre AI nyttig, " uttalte Mistrals team. "Vi mener at systemnivå-rekkverk er avgjørende for å beskytte videre implementeringer. " Med flerspråklige modereringsmuligheter er Mistral klar til å konkurrere med OpenAI. Denne lanseringen skjer mens AI-industrien står under press for å forbedre teknologiske sikkerhetstiltak. Nylig signerte Mistral og andre AI-selskaper Storbritannias AI Safety Summit-avtale, som forplikter seg til ansvarlig AI-utvikling. API-en er allerede integrert i Mistrals plattform Le Chat, som støtter 11 språk, inkludert arabisk, kinesisk og spansk, noe som gir den et fortrinn over noen konkurrenter som primært fokuserer på engelsk innhold. "Interessen for LLM-baserte modereringssystemer vokser, og tilbyr skalerbare og robuste løsninger på tvers av bruksområder, " uttalte selskapet. Mistrals innflytelse i bedrifts-AI utvides gjennom betydelige partnerskap med Microsoft Azure, Qualcomm og SAP, som styrker sin posisjon i bedrifts-AI-markedet.

SAP planlegger å være vert for Mistrals modeller, inkludert Mistral Large 2, på sin infrastruktur for å tilby sikre, europeiske forskriftskompatible AI-løsninger. Mistral skiller seg ut med sitt fokus på edge computing og omfattende sikkerhetsfunksjoner. I motsetning til OpenAI og Anthropics skybaserte løsninger, adresserer Mistrals on-device AI- og modereringstilnærming utfordringer knyttet til dataprivacy, latens og overholdelse, spesielt tiltalende for europeiske selskaper som står overfor strenge datatilsynsregler. Teknisk avansert, går Mistrals modell utover isolert tekstanalyse for å forstå samtalekontekst, og kan potensielt fange opp subtilt skadelig innhold som enklere filtre kan overse. Moderering-API-en er umiddelbart tilgjengelig gjennom Mistrals skyplattform, med bruksbasert prising. Selskapet planlegger kontinuerlige forbedringer basert på kundetilbakemeldinger og utviklende sikkerhetskrav. Mistrals fremvekst fremhever det raskt skiftende AI-landskapet. For bare et år siden eksisterte ikke denne Paris-baserte oppstarten. Nå påvirker den bedrifters syn på AI-sikkerhet. I en sektor dominert av amerikanske giganter kan Mistrals europeiske vektlegging av personvern og sikkerhet være dens viktigste fordel.