Microsoft posiluje bezpečnost AI na své vývojové platformě Azure Foundry zavedením nového hodnotícího ukazatele „bezpečnosti“, který hodnotí AI modely z hlediska možných rizik, jako je generování nenávistného projevu nebo zneužití. Tento ukazatel si klade za cíl budovat důvěru zákazníků prostřednictvím transparentního hodnocení bezpečnostních profilů různých AI modelů. Hodnocení bude založeno na dvou klíčových benchmarkových metodách: Microsoftovém ToxiGen, který detekuje toxický jazyk a nenávistné projevy, a Center for AI Safety’s Weapons of Mass Destruction Proxy, jenž hodnotí rizika spojená s škodlivým zneužitím. Tyto nástroje zajišťují etické a bezpečné nasazení generativních AI technologií. Integrací těchto důsledných hodnocení poskytuje Microsoft vývojářům a organizacím jasné přehledy o bezpečnosti AI modelů, které mohou začlenit do svých aplikací a služeb. Tento krok je v souladu s širší strategií Microsoftu stát se neutrálním a odpovědným poskytovatelem platforem v rozvíjejícím se prostoru generativní AI. Místo toho, aby se soustředil na jediného dodavatele, plánuje Microsoft nabízet modely od různých poskytovatelů – včetně OpenAI, do které investoval 14 miliard dolarů – čímž vytváří rozmanitý ekosystém podporující inovace při zachování vysokých standardů bezpečnosti a etiky. Ukazatel bezpečnosti přichází v době rostoucích obav z zneužívání AI, včetně tvorby škodlivého obsahu, dezinformací a škodlivých aplikací. Microsoftův přístup tyto výzvy řeší přímo zavedením měřitelných bezpečnostních standardů, které mají vést k odpovědnému používání AI. Kombinace ToxiGen a benchmarku Weapons of Mass Destruction Proxy nabízí komplexní posouzení rizik, pokrývající jak škodlivost jazyka, tak možnosti zneužití v neetickém kontextu. Prostřednictvím Azure Foundry budou mít vývojáři přístup ke specifickým skóre bezpečnosti, což jim umožní lépe vybírat modely a podporují transparentnost, čímž posilují důvěru uživatelů a zainteresovaných stran.

Role Microsoftu jako platformy hostující více AI poskytovatelů podtrhuje jeho závazek k rozmanitosti a neutralitě, podporuje konkurenci a inovace a zabrání dominanci jednoho subjektu na trhu. Tato rozmanitost má klást důraz nejen na výkon, ale i na bezpečnost a etiku. Silné partnerství Microsoftu s OpenAI zdůrazňuje jeho víru v transformační potenciál generativní AI a široký ekosystém poskytovatelů má za cíl vytvořit živý, odpovědný trh s AI. Ukazatel hodnocení bezpečnosti je základním kamenem při nastavování jasných očekávání a odpovědnosti za AI modely. Tato iniciativa se rovněž shoduje s globálními průmyslovými a regulačními snahami o odpovědné řízení AI. Jak vlády a organizace vyvíjejí rámce k prevenci škod spojených s AI, Microsoft se staví do čela při stanovování osvědčených postupů pro bezpečné nasazení AI. S rychlým vývojem AI technologií jsou pevná bezpečnostní opatření stále důležitější. Na závěr, nový hodnoticí ukazatel bezpečnosti na Azure Foundry představuje proaktivní a bezpečně směřující přístup k řízení AI. Využitím osvědčených benchmarků k hodnocení rizik spojených s nenávistnými projevy, zneužíváním a škodlivými výstupy, Microsoft vytváří prostředí pro odpovědný rozvoj a zavádění AI. Tento krok zvyšuje důvěru zákazníků a upevňuje postavení Microsoftu jako neutrálního a etického poskytovatele AI platforem v rychle se měnícím technologickém prostředí.