Microsoft posúva bezpečnosť AI na svojej developerskej platforme Azure Foundry zavádzaním novej hodnotiacej metriky „bezpečnosť“, ktorá hodnotí modely AI z hľadiska potenciálnych rizík, ako je generovanie nenávistného prejavu alebo umožnenie zneužitia. Táto metrika má za cieľ budovať dôveru zákazníkov tým, že transparentne hodnotí bezpečnostné profily rôznych modelov AI. Hodnotenia budú založené na dvoch kľúčových ukazovateľoch: Microsofte ToxiGen, which detects toxic language and hate speech, a Center for AI Safety’s Weapons of Mass Destruction Proxy benchmark, ktorý hodnotí riziká spojené so škodlivým zneužitím. Tieto nástroje zabezpečujú etické a bezpečné nasadzovanie generatívnych technológií AI. Integráciou týchto dôsledných hodnotení Microsoft poskytuje vývojárom a organizáciám jasný pohľad na bezpečnosť modelov AI, ktoré môžu integrovať do svojich aplikácií a služieb. Táto iniciatíva súladí so širšou stratégiou Microsoftu byť neutrálnym a zodpovedným poskytovateľom platformy v rozvíjajúcom sa priestore generatívnej AI. Namiesto obmedzovania sa na jediný zdroj plánuje Microsoft ponúkať modely od viacerých poskytovateľov — vrátane OpenAI, do ktorého investoval 14 miliárd dolárov — čím vytvára diverzifikovaný ekosystém podporujúci inovácie, pričom zachováva vysoké štandardy bezpečnosti a etiky. Metóda hodnotenia bezpečnosti prichádza v čase narastajúcich obáv z nesprávneho využívania AI, vrátane tvorby škodlivého obsahu, dezinformácií a zlomyseľných aplikácií. Prístup Microsoftu priamo rieši tieto výzvy zavádzaním merateľných bezpečnostných štandardov na zodpovedné používanie AI. Kombinácia ukazovateľov ToxiGen a Weapons of Mass Destruction Proxy ponúka komplexné hodnotenie rizík, pokrývajúce škodlivé javy jazyka aj možnosti eticky neprijateľného zneužitia. Prostredníctvom Azure Foundry budú vývojári mať prístup ku podrobným hodnoteniam bezpečnosti, čo im umožní informovane vyberať modely a podporí transparentnosť, čím sa zvýši dôvera medzi používateľmi a zainteresovanými stranami.

Úloha Microsoftu ako platformy, ktorá hostí viacerých poskytovateľov AI, zdôrazňuje jeho záväzok k rozmanitosti a neutralite, podporuje konkurenciu a inovácie a zároveň zabraňuje dominancii trhu jedným subjektom. Táto rozmanitosť kladie dôraz nielen na výkonnosť, ale aj na bezpečnosť a etiku. Silné partnerstvo Microsoftu s OpenAI podčiarkuje jeho presvedčenie o transformačnom potenciáli generatívnej AI a široký ekosystém poskytovateľov má za cieľ vytvoriť živý, zodpovedný trh s AI. Metrika hodnotenia bezpečnosti je základom pre stanovenie jasných očakávaní a zodpovednosti za modely AI. Táto iniciatíva tiež zapadá do globálneho priemyselného a regulačného úsilia o zodpovedné riadenie AI. Ako vlády a organizácie vyvíjajú rámce na prevenciu škôd súvisiacich s AI, Microsoft sa prezentuje ako líder v tvorbe osvedčených postupov pre bezpečné nasadzovanie AI. S rýchlym vývojom technológií AI sú robustné bezpečnostné opatrenia čoraz nevyhnutnejšie. Na záver, nová metrika hodnotenia bezpečnosti na Azure Foundry predstavuje proaktívny a víziový prístup k správe AI. Využitím osvedčených ukazovateľov na posúdenie rizík súvisiacich s nenávistnými prejavmi, zneužitím a škodlivým obsahom, Microsoft vytvára prostredie pre zodpovedný vývoj a nasadzovanie AI. Tento krok posilňuje dôveru zákazníkov a upevňuje pozíciu Microsoftu ako neutrálneho, etického poskytovateľa AI platforiem v rýchlo sa meniacom technologickom prostredí.