Microsoft napreduje u sigurnosti umjetne inteligencije na svojoj platformi Azure Foundry razvojnog okruženja uvođenjem nove "bezbjednosne" rang liste za procjenu AI modela u pogledu potencijalnih rizika, poput generisanja govora mržnje ili omogućavanja zloupotrebe. Ova mjera ima za cilj izgradnju povjerenja kod korisnika kroz transparentnu procjenu sigurnosnih profila raznih AI modela. Rang liste će se zasnivati na dva ključna pokazatelja: Microsoftovom ToxiGen benchmarku, koji detektuje toksičan jezik i govor mržnje, te Centru za sigurnost umjetne inteligencije (Center for AI Safety) i njegovom proxy benchmarku "Oružja masovnog uništenja", koji procjenjuje rizike povezane s opasnom zloupotrebom. Ovi alati osiguravaju etičku i sigurnu implementaciju generativnih AI tehnologija. Integracijom ovih rigoroznih procjena, Microsoft pruža programerima i organizacijama jasne uvide u sigurnost AI modela koje mogu integrirati u svoje aplikacije i usluge. Ova inicijativa je u skladu s širim Microsoftovim strategijama da bude neutralan i odgovoran platformski pružaoc u svijetu generativne umjetne inteligencije koji se brzo razvija. Umjesto da se ograniči na jedan izvor, Microsoft planira ponuditi modele od više pružaoca, uključujući OpenAI, u kojeg je uložio 14 milijardi dolara, stvarajući raznoliki ekosistem koji podstiče inovacije dok istovremeno održava visoke standarde sigurnosti i etike. Ova sigurnosna mjera dolazi uslijed sve većih zabrinutosti oko zloupotrebe AI-a, uključujući generisanje štetnog sadržaja, dezinformacije i zlonamjerne primjene. Microsoftov pristup direktno adresira ove izazove implementacijom mjernih sigurnosnih standarda za odgovornu upotrebu AI-a. Kombinacija ToxiGen i proxy benchmarka "Oružja masovnog uništenja" pruža sveobuhvatnu procjenu rizika, obuhvatajući i štetne jezičke obrasce i mogućnosti zlonamjerne zloupotrebe. Putem Azure Foundry platforme, programeri će imati pristup detaljnim sigurnosnim ocjenama, što će im omogućiti informisani odabir modela i povećati transparentnost, čime se jača povjerenje korisnika i interesnih strana u AI.

Uloga Microsofta kao platforme koja hostuje više AI pružalaca naglašava njegovu posvećenost raznolikosti i neutralnosti, potičući konkurenciju i inovacije, a u isto vrijeme sprječavajući dominaciju na tržištu od strane jednog entiteta. Ova raznolikost ima za cilj prioritet dati ne samo performansama, već i sigurnosti i etici. Snažno partnerstvo Microsofta sa OpenAI ističe vjeru u transformativni potencijal generativne AI, dok ekosistem pružalaca želi stvoriti živopisno i odgovorno tržište AI tehnologija. Ova sigurnosna rang lista je temelj za postavljanje jasnih očekivanja i odgovornosti u sigurnosti AI modela. Ova inicijativa takođe korespondira sa globalnim industrijskim i regulatornim naporima za odgovorno upravljanje AI-jem. Kako vlade i organizacije razvijaju okvire za sprečavanje štete od AI, Microsoft se pozicionira kao lider u uspostavljanju najboljih praksi za sigurno implementiranje AI-a. S obzirom na brzo napredovanje AI tehnologija, snažne sigurnosne mjere postaju sve nužnije. Ukratko, Microsoftova nova sigurnosna rang lista na Azure Foundry platformi predstavlja proaktivan i napredan pristup upravljanju AI-jem. Korištenjem ustaljenih pokazatelja za procjenu rizika od govora mržnje, zloupotrebe i štetnih izlaza, Microsoft njeguje okruženje za odgovoran razvoj i primjenu AI tehnologija. Ovaj potez jača povjerenje kupaca i učvršćuje poziciju Microsofta kao neutralnog, etičkog pružaoca AI platforme u brzom i promenljivom tehnološkom okruženju.