Microsoft совершенствует безопасность искусственного интеллекта на своей платформе Azure Foundry, вводя новую метрику «безопасности» для оценки моделей ИИ с точки зрения потенциальных рисков, таких как порождение речи ненависти или возможность злоупотреблений. Эта метрика направлена на укрепление доверия клиентов за счет прозрачной оценки характеристик безопасности различных моделей ИИ. Рейтинги будут базироваться на двух ключевых эталонах: эталоне ToxiGen от Microsoft, выявляющем токсичный язык и речь ненависти, и эталоне Proxy для «Оружия массового уничтожения» от Центра безопасности ИИ, оценивающем риски, связанные с вредоносным злоупотреблением. Эти инструменты обеспечивают этичное и безопасное внедрение технологий генеративного ИИ. Благодаря интеграции таких строгих оценок, Microsoft предоставляет разработчикам и организациям ясное представление о безопасности моделей ИИ, которые они могут интегрировать в свои приложения и сервисы. Эта инициатива соответствует более широкой стратегии Microsoft стать нейтральной и ответственной платформой в развивающемся пространстве генеративного ИИ. Вместо ограничений одним источником, Microsoft планирует предлагать модели от нескольких провайдеров, включая OpenAI, в инвестициях в которую было вложено 14 миллиардов долларов, создавая разнообразную экосистему, стимулирующую инновации при соблюдении высоких стандартов безопасности и этики. Появление этой метрики безопасности связано с растущими опасениями по поводу злоупотреблений ИИ, таких как создание вредоносного контента, распространение дезинформации и злонамеренные приложения. Подход Microsoft напрямую адресует эти вызовы, внедряя измеряемые стандарты безопасности для ответственного использования ИИ. Комбинация эталонов ToxiGen и Proxy для оружия массового уничтожения позволяет провести комплексную оценку рисков, охватывающую как вредоносный язык, так и возможности этически опасного злоупотребления. Через Azure Foundry разработчики смогут получать подробные оценки безопасности, что позволит им делать информированный выбор моделей и повышать прозрачность, укрепляющую доверие среди пользователей и заинтересованных сторон.

Роль Microsoft как платформы, поддерживающей нескольких поставщиков ИИ, подчеркивает ее приверженность разнообразию и нейтралитету, стимулируя конкуренцию и инновации при одновременной защите рынка от доминирования одной компании. Такое разнообразие направлено не только на максимальную производительность, но и на приоритет безопасности и этичности. Крепкое партнерство Microsoft с OpenAI отражает ее веру в трансформирующий потенциал генеративного ИИ, а создание экосистемы поставщиков стимулирует развитие активного и ответственного рынка ИИ. Метрика ранжирования по безопасности является фундаментальным инструментом для установления четких стандартов безопасности и ответственности за модели ИИ. Данная инициатива также согласуется с глобальными отраслевыми и нормативными инициативами по ответственному управлению ИИ. По мере разработки правовых рамок для предотвращения вредных последствий от использования ИИ, Microsoft занимает позицию лидера в определении лучших практик безопасного внедрения технологий. В условиях быстрого развития ИИ-продуктов все более важными становятся надежные меры безопасности. В целом, новая метрика оценки безопасности Microsoft в Azure Foundry демонстрирует проактивный и прогрессивный подход к управлению ИИ. Используя проверенные эталоны для оценки рисков, связанных с речью ненависти, злоупотреблениями и вредоносными результатами, Microsoft создает среду для ответственного развития и внедрения ИИ. Этот шаг укрепляет доверие клиентов и закрепляет статус Microsoft как нейтрального, этического поставщика платформ для ИИ в условиях быстроменяющегося технологического ландшафта.