Microsoft unapređuje sigurnost veštačke inteligencije na svojoj razvojnoj platformi Azure Foundry uvođenjem novog metrika „sigurnosti“ za procenu AI modela u pogledu potencijalnih rizika, kao što su generisanje govora mržnje ili omogućavanje zloupotrebe. Ovaj poremećaj ima za cilj da izgradi poverenje kupaca putem transparentne procene bezbednosnih profila raznih AI modela. Rangiranja će se zasnivati na dva ključna standarda: Microsoft-ovom ToxiGen standardu, koji prepoznaje toksičan jezik i govor mržње, i Centru za bezbednost veštačke inteligencije (AI Safety) koji koristi proxy standard „oružja masovne destrukcije“ za procenu rizika od štetne zloupotrebe. Ovi alati obezbeđuju etičku i sigurnu implementaciju generativnih AI tehnologija. Integracijom ovih rigoroznih procena, Microsoft pruža developerima i organizacijama jasne uvide u sigurnost AI modela koje mogu integrisati u svoje aplikacije i usluge. Ova inicijativa se uklapa u širu strategiju Microsofta da bude neutralan i odgovoran provajder platformi u rastućem svetu generativne AI tehnologije. Umesto da se oslanja na jedan izvor, Microsoft planira da ponudi modele od više provajdera – uključujući OpenAI, u koji je uložio 14 milijardi dolara – stvarajući raznovrstan ekosistem koji podstiče inovacije, istovremeno održavajući visoke standarde bezbednosti i etike. Metrička sigurnost dolazi u vreme sve većih zabrinutosti zbog zloupotrebe AI, uključujući generisanje štetnog sadržaja, dezinformacija i zlonamernih aplikacija. Microsoft-ov pristup direktno adresira ove izazove kroz primenu mera provere sigurnosti koje omogućavaju odgovornu upotrebu AI. Kombinacija ToxiGen standarda i proxy standarda za „oružja masovne destrukcije“ pruža sveobuhvatnu procenu rizika, pokrivajući kako štetne jezičke obrasce, tako i mogućnosti neetičke zloupotrebe. Putem Azure Foundry-a, programeri će imati pristup detaljnim sigurnosnim ocenama, što će im pomoći pri izboru modela i podstaći transparentnost, čime se gradi povjerenje korisnika i interesnih strana u AI.

Uloga Microsoft-a kao platforme koja hostuje više provajdera AI omogućava njegovo angažovanje u raznovrsnosti i neutralnosti, podstičući konkurenciju i inovacije, istovremeno sprečavajući dominaciju jedne kompanije na tržištu. Ova raznovrsnost prioritet daje ne samo performansama, već i bezbednosti i etičkim standardima. Snažno partnerstvo Microsoft-a sa OpenAI odražava njegovo uverenje u transformativni potencijal generativne AI, dok širok ekosistem provajdera nastoji da stvori dinamično i odgovorno tržište AI tehnologija. Metrička ocena sigurnosti je ključna za postavljanje jasnih očekivanja i odgovornosti za AI modele. Ova inicijativa se takođe usklađuje sa globalnim industrijskim i regulatornim naporima u odgovornom upravljanju AI-jem. Dok vlade i organizacije razvijaju okvire za sprečavanje štetnih posledica veštačke inteligencije, Microsoft pozicionira sebe kao lidera u uspostavljanju najboljih praksi za sigurnu primenu AI. U svetlu brzog napretka AI tehnologija, čvrste mere sigurnosti postaju sve važnije. Zaključno, Microsoft-ova nova metrika za ocenu sigurnosti na Azure Foundry-u predstavlja proaktivan i vizionarski pristup upravljanju AI-jem. Koristeći uspostavljene standarde za procenu rizika od govora mržnje, zloupotrebe i štetnih izlaza, Microsoft stvara okruženje za odgovoran razvoj i primenu AI. Ovaj potez jača poverenje korisnika i učvršćuje poziciju Microsofta kao neutralnog, etičkog provajdera platformi za AI u brzo menjanjućej tehnološkoj oblasti.