مایکروسافت با معرفی شاخص رتبه‌بندی «ایمنی» جدید در بستر توسعه‌دهنده Azure Foundry، گام مهمی در ایمن‌سازی هوش مصنوعی برداشته است. این شاخص برای ارزیابی ریسک‌های احتمالی مدل‌های هوش مصنوعی، مانند تولید سخنان نفرت‌انگیز یا تسهیل سوء‌استفاده، طراحی شده است. هدف از این شاخص جلب اعتماد مشتریان از طریق ارزیابی شفاف پروفایل‌های ایمنی مختلف مدل‌های هوش مصنوعی است. رتبه‌بندی‌ها بر اساس دو معیار کلیدی خواهند بود: معیار ToxiGen مایکروسافت، که زبان سمی و سخنان نفرت‌انگیز را شناسایی می‌کند، و معیار Proxy سلاح‌های کشتار جمعی مرکز ایمنی هوش مصنوعی، که خطرات مربوط به سوء‌استفاده مخرب را ارزیابی می‌کند. این ابزارها تضمین می‌کنند که فناوری‌های تولیدی هوش مصنوعی به صورت اخلاقی و ایمن به کار گرفته شوند. با ادغام این ارزیابی‌های سخت‌گیرانه، مایکروسافت به توسعه‌دهندگان و سازمان‌ها دیدگاه‌های واضحی درباره‌ایمنی مدل‌های هوش مصنوعی که ممکن است در برنامه‌ها و سرویس‌های خود ادغام کنند، ارائه می‌دهد. این ابتکار در راستای استراتژی گسترده‌تر مایکروسافت برای تبدیل شدن به یک ارائه‌دهنده پلتفرم بی‌طرف و مسئول در فضای رو به رشد هوش مصنوعی تولیدی قرار دارد. به‌جای محدود کردن خود به یک منبع منفرد، مایکروسافت قصد دارد مدل‌هایی از چندین تامین‌کننده شامل OpenAI (که در آن ۱۴ میلیارد دلار سرمایه‌گذاری کرده است) ارائه دهد، تا اکوسیستی متنوع و نوآورانه ایجاد کند که استانداردهای بالای ایمنی و اخلاقی را رعایت می‌کند. این شاخص ایمنی در حالی معرفی می‌شود که نگرانی‌های فزاینده‌ای درباره سوء‌استفاده از هوش مصنوعی، از جمله تولید محتوای مضر، اطلاعات نادرست و کاربردهای مخرب وجود دارد. رویکرد مایکروسافت به‌طور مستقیم به این چالش‌ها می‌پردازد و استانداردهای قابل اندازه‌گیری برای ایمنی هوش مصنوعی مسئولانه ارائه می‌دهد.

تلفیق معیار ToxiGen و معیار Proxy سلاح‌های کشتار جمعی سطحی جامع از ارزیابی‌های ریسک را فراهم می‌کند، که هر دو جنبه زبان مضر و امکان سوء‌استفاده غیراخلاقی را مورد بررسی قرار می‌دهد. از طریق Azure Foundry، توسعه‌دهندگان قادر خواهند بود نمرات ایمنی دقیق را مشاهده و بر اساس آن‌ها مدل مناسب را انتخاب کنند، و شفافیتی را ترویج دهند که اعتماد کاربران و ذینفعان را افزایش می‌دهد. نقش مایکروسافت به عنوان میزبان چندین تامین‌کننده هوش مصنوعی، نشانگر تعهد آن به تنوع و بی‌طرفی است که رقابت و نوآوری را تشویق می‌کند و در عین حال از تمرکز بازار در دست یک نهاد جلوگیری می‌نماید. این تنوع بر ترجیع عملکرد اولویت دارد، اما همزمان ایمنی و اصول اخلاقی را نیز در نظر می‌گیرد. همکاری قوی مایکروسافت با OpenAI نشان‌دهنده ایمان آن به پتانسیل تحول‌آفرین هوش مصنوعی تولیدی است، و اکوسیستم گسترده تامین‌کنندگان قصد دارد بازاری lively و مسئولانه برای هوش مصنوعی ایجاد کند. شاخص رتبه‌بندی ایمنی پایه و اساس تعیین انتظارات روشن در مورد ایمنی و مسئولیت‌پذیری مدل‌های هوش مصنوعی است. این ابتکار همچنین همسو با تلاش‌های جهانی صنعتی و مقرراتی برای مدیریت مسئولانه هوش مصنوعی است. در حالی که دولت‌ها و سازمان‌ها در حال توسعه چارچوب‌هایی برای پیشگیری از آسیب‌های مرتبط با هوش مصنوعی هستند، مایکروسافت خود را به عنوان پیش‌رو در تعیین بهترین شیوه‌های پیاده‌سازی ایمن هوش مصنوعی قرار داده است. با پیشرفت سریع فناوری‌های هوش مصنوعی، اتخاذ اقدامات ایمنی قوی بیش از پیش حیاتی است. در نتیجه، شاخص رتبه‌بندی ایمنی جدید مایکروسافت در Azure Foundry نمونه‌ای از رویکرد پیش‌دستانه و آینده‌نگر در حاکمیت هوش مصنوعی است. با بهره‌گیری از استانداردهای تعیین‌شده برای ارزیابی ریسک‌های مربوط به سخنان نفرت‌انگیز، سوء‌استفاده و نتایج مضر، مایکروسافت محیطی مسئولانه برای توسعه و پیاده‌سازی هوش مصنوعی ایجاد می‌کند. این اقدام اعتماد مشتریان را تقویت و جایگاه مایکروسافت را به عنوان یک پلتفرم بی‌طرف و اخلاق‌مدار در فضایی پُرتحول تثبیت می‌کند.