Microsoft sedang memajukan keselamatan AI di platform pembangun Azure Foundry dengan memperkenalkan metrik penarafan 'keselamatan' baharu untuk menilai potensi risiko model AI, seperti menghasilkan ucapan kebencian atau memudahkan penyalahgunaan. Metrik ini bertujuan membina kepercayaan pelanggan dengan menilai secara telus profil keselamatan pelbagai model AI. Penarafan ini akan berdasarkan dua tolok ukur utama: tolok ukur ToxiGen Microsoft, yang mengesan bahasa toksik dan ucapan kebencian, dan tolok ukur Proxy Senjata Pemusnah Massal dari Pusat Keselamatan AI, yang menilai risiko berkaitan penyalahgunaan berbahaya. Alat ini memastikan penggunaan teknologi AI generatif secara beretika dan selamat. Dengan mengintegrasikan penilaian yang ketat ini, Microsoft menyediakan maklumat jelas kepada pembangun dan organisasi mengenai keselamatan model AI yang mungkin mereka gunakan dalam aplikasi dan perkhidmatan. Inisiatif ini sejajar dengan strategi lebih luas Microsoft untuk menjadi platform yang neutral dan bertanggungjawab dalam ruang AI generatif yang sedang berkembang. Daripada bergantung kepada satu sumber sahaja, Microsoft bercadang menawarkan model dari pelbagai penyedia—termasuk OpenAI, yang telah dilaburkan sebanyak $14 bilion—mewujudkan ekosistem yang pelbagai yang menggalakkan inovasi sambil memegang tinggi piawaian keselamatan dan etika. Metrik keselamatan ini hadir di tengah-tengah kebimbangan yang semakin meningkat terhadap penyalahgunaan AI, termasuk penghasilan kandungan berbahaya, maklumat palsu, dan aplikasi jahat. Pendekatan Microsoft secara langsung menangani cabaran ini dengan melaksanakan piawaian keselamatan yang boleh diukur untuk membimbing penggunaan AI yang bertanggungjawab. Gabungan tolok ukur ToxiGen dan Proxy Senjata Pemusnah Massal menawarkan penilaian risiko yang menyeluruh, meliputi bahasa berbahaya dan kemungkinan penyalahgunaan tidak beretika. Melalui Azure Foundry, pembangun akan mendapat skor keselamatan yang terperinci, membolehkan pemilihan model yang bermaklumat dan menggalakkan ketelusan yang meningkatkan keyakinan pengguna dan pihak berkepentingan AI.

Peranan Microsoft sebagai platform yang menyokong pelbagai penyedia AI menegaskan komitmennya terhadap kepelbagaian dan keberneutralan, menggalakkan persaingan dan inovasi sambil mencegah dominasi pasaran oleh satu entiti sahaja. Kepelbagaian ini berusaha untuk mengutamakan bukan sahaja prestasi tetapi juga keselamatan dan etika. Kerjasama kukuh Microsoft dengan OpenAI menegaskan kepercayaannya terhadap potensi transformasi AI generatif, dan ekosistem penyedia yang luas bertujuan mewujudkan pasaran AI yang hidup dan bertanggungjawab. Metrik penarafan keselamatan ini adalah asas dalam menetapkan jangkaan keselamatan dan akauntabiliti yang jelas untuk model AI. Inisiatif ini juga sejajar dengan usaha industri dan peraturan global untuk mentadbir AI secara bertanggungjawab. Ketika kerajaan dan organisasi membangunkan rangka kerja untuk mencegah kemudaratan berkaitan AI, Microsoft menempatkan dirinya sebagai peneraju dalam menetapkan amalan terbaik untuk pelaksanaan AI yang selamat. Dengan teknologi AI yang berkembang pesat, langkah keselamatan yang kukuh semakin penting. Sebagai kesimpulan, metrik penarafan keselamatan baharu Microsoft di Azure Foundry memperlihatkan pendekatan yang proaktif dan berfikiran ke hadapan dalam tadbir urus AI. Dengan memanfaatkan tolok ukur yang mapan untuk menilai risiko berkaitan ucapan kebencian, penyalahgunaan, dan output berbahaya, Microsoft sedang membina suasana untuk pembangunan dan pelaksanaan AI yang bertanggungjawab. Langkah ini meningkatkan kepercayaan pelanggan dan mengukuhkan kedudukan Microsoft sebagai penyedia platform AI yang neutral dan beretika dalam landskap teknologi yang pantas berubah.