**Ringkasan dan Penulisan Semula:** Pada 16 Mac, analisis menyeluruh diterbitkan semula mengenai risiko yang semakin meningkat akibat serangan AI separa autonomi, bersama amaran baru mengenai ancaman AI Generatif (GenAI). Pengguna email telah lama diberi amaran bahawa serangan berasaskan AI dijangka meningkat tahun ini, menjadi semakin sukar untuk dikesan. Sophistifikasi yang meningkat dalam deepfake dan keupayaan operasi bebas AI dalam menjalankan serangan menimbulkan risiko yang signifikan kepada jutaan orang. Satu contoh yang menarik dikemukakan oleh Symantec menunjukkan penggunaan agen AI untuk serangan phishing, yang memperlihatkan bagaimana AI dapat melakukan tugas seperti interaksi web, yang melangkaui penciptaan teks semata-mata. Walaupun penyerang telah menggunakan Model Bahasa Besar (LLM) yang sedia ada secara pasif untuk mencipta bahan phishing dan kod, pengenalan agen AI meningkatkan keupayaan mereka dan menimbulkan ancaman serius. Eksperimen bukti konsep terkini menunjukkan bahawa agen AI dapat secara autonomi mencari alamat email sasaran dan merangka skrip menipu. Meskipun terdapat langkah keselamatan awal, langkah-langkah ini dapat dengan mudah dilangkaui, membolehkan agen tersebut melaksanakan aktiviti jahat dengan lancar.

Agen yang digunakan adalah dari OpenAI, membuktikan bahawa potensi penyalahgunaan lebih terletak pada fungsi daripada pembangunnya. Para pakar memberi amaran bahawa seiring alat AI memperoleh lebih banyak keupayaan, cabaran untuk melaksanakan had etika menjadi sangat penting. Agen AI ini boleh dimanipulasi dengan mudah melalui kejuruteraan arahan, membolehkan penyerang mengatur operasi kompleks tanpa memerlukan kemahiran yang canggih. Untuk melawan lanskap ancaman yang berkembang ini, organisasi mesti menetapkan langkah keselamatan yang ketat. Ini termasuk pengesanan ancaman yang canggih untuk mengenal pasti anomali tingkah laku dan strategi proaktif untuk mengehadkan jenis maklumat yang tersedia untuk musuh. Laporan terkini telah mengetengahkan penyalahgunaan alat GenAI seperti ChatGPT, dengan contoh ketara penjenayah siber yang memanfaatkan mereka untuk tujuan jahat. Apabila model AI sumber terbuka baru muncul, risiko penggunaan alat ini untuk mencipta malware yang canggih meningkat dengan ketara. Akhirnya, para pakar mengesahkan bahawa walaupun mungkin mustahil untuk sepenuhnya mencegah manipulasi AI oleh penyerang, adalah penting untuk melaksanakan kerangka tadbir urus dan keselamatan yang kukuh yang memperlakukan identiti AI dengan ketelitian yang sama seperti identiti manusia. Intipati yang jelas: kita kini tidak bersedia untuk potensi bahaya yang ditimbulkan oleh serangan yang dipacu AI.