تتقدم شركة مايكروسوفت في مجال أمن الذكاء الاصطناعي على منصتها المطورة Azure Foundry من خلال تقديم مقياس تصنيف جديد "للأمان" لتقييم نماذج الذكاء الاصطناعي من حيث المخاطر المحتملة، مثل إنتاج خطاب كراهية أو تمكين الاستخدام السيء. يهدف هذا المقياس إلى بناء ثقة العملاء من خلال تقييم شفافي لملفات السلامة لمختلف نماذج الذكاء الاصطناعي. ستعتمد التصنيفات على معيارين رئيسيين: معيار ToxiGen من مايكروسوفت، الذي يكتشف اللغة السامة وخطاب الكراهية، ومعيار Proxy للأسلحة الدمار الشامل من مركز سلامة الذكاء الاصطناعي، الذي يقيم المخاطر المتعلقة بالاستخدام الضار. تضمن هذه الأدوات نشر تقنيات الذكاء الاصطناعي الإبداعية بشكل أخلاقي وآمن. من خلال دمج هذه التقييمات الصارمة، توفر مايكروسوفت للمطورين والمؤسسات رؤى واضحة حول مدى أمان نماذج الذكاء الاصطناعي التي قد يدمجونها في التطبيقات والخدمات. يتماشى هذا المبـادر مع استراتيجية مايكروسوفت الأوسع لتكون منصة حيادية ومسؤولة في مجال الذكاء الاصطناعي المولد المتطور. بدلاً من الاعتماد على مصدر واحد، تخطط مايكروسوفت لتقديم نماذج من عدة مزودين، بما في ذلك شركة OpenAI، التي استثمرت فيها 14 مليار دولار، لخلق نظام بيئي متنوع يعزز الابتكار مع الالتزام بمعايير عالية من السلامة والأخلاق. يأتي هذا المقياس الخاص بالأمان في ظل تزايد المخاوف من سوء الاستخدام، بما في ذلك إنتاج محتوى ضار، ونشر المعلومات المضللة، والتطبيقات الخبيثة. تعالج استراتيجية مايكروسوفت هذه التحديات بشكل مباشر من خلال تنفيذ معايير أمان قابلة للقياس لوجهة الاستخدام المسؤول للذكاء الاصطناعي.

إذ يوفر الجمع بين معيار ToxiGen ومعيار Proxy تقييمًا شاملاً للمخاطر، يغطي اللغة الضارة والإمكانيات غير الأخلاقية للاستخدام السيئ. عبر منصة Azure Foundry، سيتمكن المطورون من الوصول إلى درجات أمان مفصلة، مما يساعد على اختيار النماذج بشكل واعٍ ويعزز الشفافية التي تزيد من ثقة المستخدمين والمعنيين بالذكاء الاصطناعي. يبرز دور مايكروسوفت كمنصة تستضيف عدة مزودين للذكاء الاصطناعي التزامها بالتنوع والحيادية، مع تشجيع المنافسة والابتكار مع تجنب احتكار السوق من قبل جهة واحدة. ويسعى هذا التنوع إلى إيلاء الأولوية ليس فقط للأداء، بل أيضًا للسلامة والأخلاق. تؤكد الشراكة القوية بين مايكروسوفت وOpenAI على إيمانها بإمكانيات الذكاء الاصطناعي المولد كمغير وقادر على إحداث تأثيرات جذرية، كما يهدف نظام مزودي الخدمة الواسع إلى خلق سوق حي ومسؤول للذكاء الاصطناعي. يُعد مقياس تصنيف الأمان أساسيًا في وضع توقعات واضحة للسلامة والمساءلة فيما يخص نماذج الذكاء الاصطناعي. كما تتماشى هذه المبادرة مع جهود الصناعة والتنظيمات العالمية لإدارة الذكاء الاصطناعي بشكل مسؤول. مع تطور تقنيات الذكاء الاصطناعي بسرعة، بات من الضروري بشكل متزايد وجود تدابير سلامة قوية. وفي الختام، يُعد المقياس الجديد لتصنيف الأمان على منصة Azure Foundry مثالًا على نهج استباقي وتفكير مستقبلي في حوكمة الذكاء الاصطناعي. من خلال الاستفادة من معايير معتمدة لتقييم المخاطر المرتبطة بخطاب الكراهية، وسوء الاستخدام، والمخرجات الضارة، تساهم مايكروسوفت في خلق بيئة لتطوير ونشر الذكاء الاصطناعي بمسؤولية. يعزز ذلك ثقة العملاء ويؤكد مكانتها كمزود منصة ذكاء اصطناعي حيادي وأخلاقي في ظل عالم يتغير سريعًا تكنولوجيًا.