Microsoft напредва в областта на безопасността на изкуствения интелект в своята разработваща платформа Azure Foundry, като въвежда нова мярка за „сигурност“ (safety), която оценява моделите на ИИ за потенциални рискове като генериране на реч на омразата или използване за злонамерени цели. Тази мярка има за цел да повиши доверието на клиентите чрез прозрачна оценка на профилите на безопасност на различните модели на ИИ. Ранкингът ще се базира на два основни бенчмарка: Microsoft’s ToxiGen, който открива токсичен език и реч на омразата, и Центъра за безопасност на изкуствения интелект (Center for AI Safety) с неговия бенчмарк Proxy за оръжия за масово унищожение, който оценява рисковете от вредоносна злоупотреба. Тези инструменти гарантират етично и безопасно внедряване на генеративни технологии с ИИ. Чрез интегриране на тези строги оценки, Microsoft предоставя на разработчици и организации ясни знания за безопасността на моделите на ИИ, които могат да бъдат използвани в приложения и услуги. Тази инициатива съответства на по-широката стратегия на Microsoft да бъде неутрален и отговорен доставчик на платформи в постоянно развиващия се свят на генеративния ИИ. Вместо да се ограничава до един доставчик, Microsoft планира да предлага модели от множество доставчици — включително OpenAI, в която е инвестирала 14 милиарда долара — създавайки разнообразна екосистема, която насърчава иновациите, като същевременно поддържа високи стандарти за безопасност и етика. Мярката за безопасност идва в отговор на нарастващите тревоги относно злоупотребите с ИИ, включително генериране на вредоносно съдържание, дезинформация и зловредни приложения. Подходът на Microsoft директно адресира тези предизвикателства чрез въвеждане на измерими стандарти за сигурност, които да ръководят отговорното използване на ИИ. Комбинацията от ToxiGen и Proxy бенчмарковете предлага цялостна оценка на рисковете, покривайки както вредния език, така и възможните етични злоупотреби. Чрез Azure Foundry разработчиците ще имат достъп до подробни оценки за сигурност, което ще им позволява да избират модели с информираност и ще подкрепя прозрачността, повишаваща доверието на потребителите и заинтересованите страни.

Ролята на Microsoft като платформа, която съчетава множество доставчици на ИИ, подчертава ангажимента ѝ към разнообразие и неутралност, насърчавайки конкуренция и иновации, като същевременно предотвратява доминацията на един единствен играч. Това разнообразие цели да постави акцент не само върху представянето, но и върху безопасността и етиката. Здравото партньорство на Microsoft с OpenAI подчертава вярата ѝ в трансформаторния потенциал на генеративния ИИ, а екосистемата от доставчици цели да създаде динамичен и отговорен пазар за ИИ. Мярката за ранжиране на сигурността е фундаментална за поставянето на ясни очаквания за безопасност и отговорност на моделите на ИИ. Тази инициатива също така съответства на глобалните индустриални и регулаторни усилия за отговорно управление на ИИ. Докато правителствата и организациите разработват рамки за предотвратяване на вреди, свързани с ИИ, Microsoft се позиционира като лидер в установяването на най-добрите практики за безопасно внедряване на ИИ. С напредването на технологията, усилените мерки за безопасност стават все по-важни. В заключение, новата мярка за ранжиране на сигурността на Microsoft в Azure Foundry представя проактивен и напреднал подход към управлението на ИИ. Чрез използването на утвърдени бенчмаркове за оценка на рисковете, свързани с реч на омразата, злоупотреби и вредни резултати, Microsoft създава среда за отговорно развитие и внедряване на ИИ. Това подобрява доверието на клиентите и затвърждава позицията на Microsoft като неутрална и етична платформа за ИИ в бързо променящата се технологична среда.