Microsoft baru-baru ini mengeluarkan amaran penting mengenai satu ancaman siber baharu yang dikenali sebagai "Pembunuhan Cadangan AI". Serangan canggih ini melibatkan penyerang jahat menyisipkan arahan tersembunyi atau maklumat yang menyesatkan secara langsung ke dalam memori operasi pembantu AI. Matlamatnya adalah untuk mempengaruhi jawapan dan cadangan AI pada masa hadapan agar menguntungkan penyerang, sering kali merugikan pengguna atau organisasi yang bergantung kepada AI tersebut. Pembunuhan Cadangan AI adalah evolusi daripada teknik pencemaran SEO tradisional, di mana penyerang memanipulasi hasil carian enjin untuk mempromosikan laman sesawang berbahaya. Namun, kaedah baharu ini memfokuskan kepada kerangka kognitif dan pembuatan keputusan dalaman AI berbanding hasil carian luar, dengan menyisipkan bias yang berterusan dan halus dalam sistem AI yang menyebabkan cadangan menyimpang dari masa ke masa. Microsoft memberikan contoh ancaman ini: seorang Ketua Pegawai Kewangan (CFO) mengklik ringkasan yang dijana AI semasa mencari entri blog biasa, tanpa sedar menyisipkan kecondongan bias ke dalam memori AI. Kemudian, apabila menilai penyedia perkhidmatan awan, AI mungkin mencadangkan penyedia yang penipuan atau tidak sesuai kerana arahan jahat yang telah disisipkan sebelum ini. Contoh ini menonjolkan sifat halus dan jangka panjang Pembunuhan Cadangan AI, yang menggunakan interaksi kecil dan kelihatan tidak berbahaya daripada pengguna untuk menyisipkan manipulasi yang mampu menyebabkan maklumat salah yang serius dan membuat keputusan yang salah, memberi kesan kepada perniagaan, kerajaan, dan individu. Microsoft menegaskan bahawa ancaman ini bukan hanya teori; percubaan sebenar menggunakan Pembunuhan Cadangan AI telah dikenal pasti, menimbulkan kebimbangan tentang penyebarannya yang berpotensi apabila AI menjadi semakin meluas. Oleh kerana AI memainkan peranan transformasi dalam pembuatan keputusan automatik, penyerang menganggapnya sebagai sasaran bernilai tinggi. Risiko semakin meningkat selaras dengan kepercayaan pengguna terhadap sistem AI yang diintegrasikan dalam aliran kerja untuk pelbagai tugasan seperti analisis data dan perancangan strategik.

Natur “kotak hitam” AI yang sering tidak telus menyukarkan pengesanan bias atau manipulasi. Untuk mengatasi masalah ini, Microsoft menyeru perlunya langkah keselamatan yang lebih kukuh dalam ekosistem AI, termasuk pengesahan ketat data latihan AI, pemantauan berterusan terhadap cadangan yang pelik, peningkatan kesedaran pengguna, dan rangka kerja tadbir urus yang kukuh untuk mengawasi penggunaan dan operasi AI. Ancaman yang sedang muncul ini juga menyoroti cabaran lebih luas dalam etika AI, tanggungjawab, dan kepercayaan, terutamanya dalam sektor kritikal seperti penjagaan kesihatan, kewangan, dan perkhidmatan awam. Organisasi dan individu sewajarnya mengambil langkah berhati-hati terhadap cadangan yang dijana AI, termasuk pelaksanaan pemeriksaan berlapis sebelum membuat keputusan penting. Melabur dalam penyelidikan keselamatan AI dan bekerjasama dengan pakar keselamatan siber adalah penting untuk membangun alat pengesanan awal dan strategi respons terhadap ancaman yang semakin berkembang ini. Sebagai kesimpulan, pengumuman Microsoft mengenai Pembunuhan Cadangan AI menjadi tanda amaran tentang perubahan landskap ancaman siber dalam era AI. Gabungan serangan canggih dan peningkatan pergantungan kepada AI menuntut strategi keselamatan yang proaktif. Dengan mengakui risiko ini dan melaksanakan perlindungan menyeluruh, pihak berkepentingan dapat melindungi integriti AI dan memastikan teknologi yang berkuasa ini kekal sebagai sekutu yang boleh dipercayai, bukannya alat penipuan.