Francuski AI startap Mistral AI predstavio je u četvrtak novi API za moderaciju sadržaja, sa ciljem da izazove OpenAI i druge AI lidere, dok odgovara na sve veću zabrinutost u vezi sa bezbednošću AI. Usluga, koristeći unapređenu verziju Mistralovog Ministral 8B modela, identifikuje potencijalno štetan sadržaj u devet kategorija, kao što su seksualni sadržaj, govor mržnje, nasilje i lične informacije. Može analizirati i tekst i razgovore. "Bezbednost je ključna za korisnost AI, " izjavili su iz tima Mistral. "Verujemo da su sistemi zaštitnih mera ključni za zaštitu primena nizvodno. " Sa mogućnostima multijezične moderacije, Mistral je spreman da se takmiči sa OpenAI. Ovo lansiranje dešava se dok se industrija veštačke inteligencije suočava sa pritiskom da poboljša tehnološke zaštitne mere. Nedavno su Mistral i druge AI kompanije potpisali sporazum na UK AI Safety Summit-u, obavezujući se na odgovoran razvoj AI. API je već integrisan u Mistralovu platformu Le Chat, podržavajući 11 jezika, uključujući arapski, kineski i španski, što mu daje prednost nad nekim konkurentima koji su fokusirani uglavnom na sadržaj na engleskom jeziku. "Interesovanje za sisteme moderacije zasnovane na velikim jezičkim modelima raste, nudeći skalabilne i robusne opcije kroz primene, " izjavila je kompanija. Mistralov uticaj u korporativnom AI sektoru raste kroz velike partnerstva sa Microsoft Azure, Qualcomm i SAP, jačajući svoju poziciju na tržištu AI u preduzećima.

SAP planira da ugosti Mistralove modele, uključujući Mistral Large 2, na svojoj infrastrukturi kako bi ponudio sigurna AI rešenja u skladu sa evropskim propisima. Mistral se izdvaja fokusom na edge računarstvo i sveobuhvatne bezbednosne karakteristike. Za razliku od cloud rešenja OpenAI i Anthropic, Mistralov pristup AI na uređaju i moderaciji rešava probleme privatnosti podataka, kašnjenja i usklađenosti, što posebno privlači evropske firme suočene sa strogim regulacijama podataka. Tehnički sofisticiran, Mistralov model ide dalje od izolovane analize teksta kako bi razumeo kontekst razgovora, potencijalno hvatajući suptilni štetni sadržaj koji bi jednostavniji filteri mogli da promaše. Moderacioni API je odmah dostupan preko Mistralove cloud platforme, sa cenama koje se temelje na upotrebi. Kompanija planira kontinuirana poboljšanja zasnovana na povratnim informacijama kupaca i evoluirajućim zahtevima bezbednosti. Pojava Mistrala naglašava brze promene u AI pejzažu. Pre samo godinu dana, ovaj startup iz Pariza nije postojao. Sada, utiče na korporativna mišljenja o bezbednosti AI. U sektoru kojim dominiraju američki giganti, Mistralov evropski naglasak na privatnost i sigurnost mogao bi biti njegova ključna prednost.