Microsoft просуває безпеку штучного інтелекту на своїй платформі для розробників Azure Foundry, запроваджуючи новий показник «безпека» для оцінки моделей ШІ на потенційні ризики, такі як генерування мови ненависті або можливість їх неправомірного використання. Цей показник має на меті зміцнити довіру клієнтів шляхом прозорої оцінки профілів безпеки різних моделей ШІ. Рейтинги будуть базуватися на двох ключових орієнтирах: тесті ToxiGen від Microsoft, який виявляє токсичну мову та мовлення ненависті, і тесті Proxy для зброї масового знищення від Центру безпеки ШІ, який оцінює ризики, пов’язані з шкідливим неправильним використанням. Ці інструменти забезпечують етичне та безпечне впровадження генеративних технологій ШІ. Завдяки інтеграції цих строгих оцінювань Microsoft надає розробникам та організаціям чітке уявлення про безпеку моделей ШІ, які вони можуть інтегрувати у свої додатки та сервіси. Ця ініціатива узгоджується із більш масштабною стратегією Microsoft щодо бути нейтральним і відповідальним провайдером платформи у швидко розвиваючомуся просторі генеративного ШІ. Замість обмеження себе одним джерелом, Microsoft планує пропонувати моделі від кількох провайдерів — у тому числі OpenAI, у якій вона вклала 14 мільярдів доларів — створюючи різноманітну екосистему, що сприяє інноваціям та водночас підтримує високі стандарти безпеки та етики. Показник безпеки з’являється на тлі зростаючих занепокоєнь щодо неправомірного використання ШІ, зокрема створення шкідливого контенту, дезінформації та зловмисних застосувань. Підхід Microsoft безпосередньо адресує ці виклики, впроваджуючи вимірювані стандарти безпеки, що керують відповідальним використанням ШІ. Комбінація тестів ToxiGen та Proxy для зброї масового знищення забезпечує всебічну оцінку ризиків, охоплюючи як шкідливу мову, так і можливості етичного неправильного використання. За допомогою Azure Foundry розробники отримають доступ до докладних оцінок безпеки, що дозволить обрати відповідну модель та підвищить прозорість, сприяючи довірі користувачів та зацікавлених сторін.

Роль Microsoft як платформи, яка приймає кілька провайдерів ШІ, підкреслює її приверженість до різноманітності та нейтральності, сприяючи конкуренції та інноваціям і запобігаючи домінуванню окремих гравців на ринку. Це різноманіття має за мету не лише досягти високої продуктивності, а й забезпечити безпеку та етичність. Міцне партнерство Microsoft із OpenAI підкреслює її віру у трансформувальний потенціал генеративного ШІ, а екосистема провайдерів прагне створити динамічний і відповідальний ринок ШІ. Показник безпеки є базовим елементом у визначенні чітких очікувань щодо безпеки та відповідальності моделей ШІ. Ця ініціатива також відповідає світовим галузевим і регуляторним зусиллям у сфері відповідального управління ШІ. У міру розвитку технологій Microsoft ставить собі за мету бути лідером у встановленні найкращих практик для безпечного впровадження ШІ. Оскільки технології ШІ швидко прогресують, створення надійних заходів безпеки стає дедалі важливішим. У підсумку, новий показник безпеки Microsoft на Azure Foundry є прикладом превентивного та прогресивного підходу до управління ШІ. Використовуючи встановлені стандарти для оцінки ризиків, пов’язаних із мовою ненависті, неправильним використанням та шкідливими виводами, Microsoft створює середовище для відповідальної розробки і впровадження ШІ. Цей крок підвищує довіру клієнтів і зміцнює позиції Microsoft як нейтральної, етичної платформи ШІ у швидкозмінному технологічному ландшафті.