Microsoft memajukan keamanan AI di platform pengembang Azure Foundry dengan memperkenalkan metrik peringkat 'keamanan' baru untuk mengevaluasi model AI dari potensi risiko, seperti menghasilkan ujaran kebencian atau memungkinkan penyalahgunaan. Metik ini bertujuan membangun kepercayaan pelanggan dengan secara transparan menilai profil keamanan berbagai model AI. Peringkat ini akan didasarkan pada dua tolok ukur utama: tolok ukur ToxiGen dari Microsoft, yang mendeteksi bahasa toksik dan ujaran kebencian, dan tolok ukur Proxy Weapons of Mass Destruction dari Center for AI Safety, yang mengevaluasi risiko terkait penyalahgunaan berbahaya. Alat-alat ini memastikan penerapan teknologi AI generatif secara etis dan aman. Dengan mengintegrasikan evaluasi yang ketat ini, Microsoft menyediakan wawasan yang jelas bagi pengembang dan organisasi tentang keamanan model AI yang mungkin mereka integrasikan ke dalam aplikasi dan layanan. Inisiatif ini sejalan dengan strategi lebih luas Microsoft untuk menjadi penyedia platform yang netral dan bertanggung jawab dalam ruang AI generatif yang terus berkembang. Daripada membatasi diri pada satu sumber, Microsoft berencana menawarkan model dari berbagai penyedia—termasuk OpenAI, yang telah diinvestasikan sebesar 14 miliar dolar—menciptakan ekosistem yang beragam yang mendorong inovasi sekaligus menjaga standar keamanan dan etika yang tinggi. Metrik keamanan ini muncul di tengah kekhawatiran yang semakin meningkat terhadap penyalahgunaan AI, termasuk pembuatan konten berbahaya, disinformasi, dan aplikasi jahat. Pendekatan Microsoft secara langsung mengatasi tantangan ini dengan menerapkan standar keamanan yang terukur untuk membimbing penggunaan AI secara bertanggung jawab. Gabungan dari tolok ukur ToxiGen dan Proxy Weapons of Mass Destruction menawarkan penilaian risiko yang komprehensif, mencakup bahasa berbahaya dan kemungkinan penyalahgunaan yang tidak etis. Melalui Azure Foundry, pengembang akan mendapatkan skor keamanan yang rinci, memungkinkan pemilihan model yang lebih terinformasi dan meningkatkan transparansi yang memperkuat kepercayaan pengguna dan pemangku kepentingan dalam AI.

Peran Microsoft sebagai platform yang menampung berbagai penyedia AI menegaskan komitmennya terhadap keberagaman dan netralitas, mendorong kompetisi dan inovasi sekaligus mencegah dominasi pasar oleh satu entitas. Keanekaragaman ini bertujuan memperhatikan tidak hanya performa tetapi juga keamanan dan etika. Kemitraan kuat Microsoft dengan OpenAI menyoroti keyakinan mereka terhadap potensi transformatif AI generatif, dan ekosistem penyedia yang luas bertujuan menciptakan pasar AI yang hidup dan bertanggung jawab. Metrik peringkat keamanan ini menjadi dasar dalam menetapkan standar keselamatan yang jelas dan akuntabilitas untuk model AI. Inisiatif ini juga sejalan dengan upaya global industri dan regulasi untuk mengatur AI secara bertanggung jawab. Saat pemerintah dan organisasi mengembangkan kerangka kerja untuk mencegah bahaya terkait AI, Microsoft menempatkan dirinya sebagai pemimpin dalam menetapkan praktik terbaik untuk penerapan AI yang aman. Dengan teknologi AI yang terus berkembang pesat, langkah-langkah keamanan yang kokoh menjadi semakin penting. Kesimpulannya, metrik peringkat keamanan baru Microsoft di Azure Foundry mencerminkan pendekatan proaktif dan visioner terhadap tata kelola AI. Dengan memanfaatkan tolok ukur yang mapan untuk menilai risiko terkait ujaran kebencian, penyalahgunaan, dan keluaran yang berbahaya, Microsoft sedang menciptakan lingkungan untuk pengembangan dan penerapan AI yang bertanggung jawab. Langkah ini memperkuat kepercayaan pelanggan dan memperkokoh posisi Microsoft sebagai penyedia platform AI yang netral dan etis di lanskap teknologi yang berubah dengan cepat.