Kevin Mandia, pengasas syarikat keselamatan siber terkenal Mandiant, telah mengeluarkan amaran serius tentang masa depan ancaman siber. Beliau melihat bahawa serangan siber berkuasakan AI mungkin menjadi kenyataan dalam tempoh setahun akan datang. Mandia menjelaskan bahawa serangan sebegini akan menghadapi cabaran besar bagi pakar keselamatan siber kerana penyerang boleh menggunakan alat AI untuk melaksanakan pencerobohan yang canggih dengan peluang yang kecil untuk dikesan atau dijejaki. Idea mengenai ancaman siber berkemampuan AI telah menjadi kebimbangan komuniti keselamatan selama bertahun-tahun, tetapi kemajuan pesat dan penggunaan meluas teknologi AI generatif telah memperhebatkan kebimbangan ini. Sistem AI generatif mampu menghasilkan kandungan asli, seperti teks, gambar, dan skrip yang kompleks, yang boleh dieksploitasi untuk membolehkan serangan siber yang lebih fleksibel dan adaptif. Mandia menegaskan bahawa sumber paling mungkin bagi serangan siber berkuasakan AI ini adalah organisasi jenayah dan bukannya negara-negara. Perbezaan ini amat penting kerana kumpulan jenayah, yang sering bermotivasi keuntungan kewangan, cenderung untuk cepat mengadaptasi teknologi baru untuk tujuan haram, manakala negara biasanya mempunyai matlamat strategik atau politik. Menariknya, Mandia menyatakan bahawa model AI terkenal dari syarikat seperti OpenAI dan Anthropic tidak mungkin disalahgunakan secara langsung untuk tujuan jahat disebabkan oleh langkah-langkah perlindungan dan sekatan yang disediakan untuk mencegah penyalahgunaan. Walau bagaimanapun, landskap keselamatan siber tetap berisiko kerana terdapat alat AI yang kurang dikawal selia atau sumber terbuka yang boleh dieksploitasi oleh pihak berbahaya. Menyokong pandangan ini, Chester Wisniewski, seorang pakar keselamatan siber yang dihormati dari Sophos, bersetuju bahawa walaupun penyerang mungkin sudah mempunyai cara teknikal untuk menggunakan AI dalam serangan, insentif untuk berbuat demikian masih terhad buat masa ini.

Keengganan ini mungkin berpunca daripada cabaran mengintegrasikan AI ke dalam kaedah serangan sedia ada dan kekurangan kepakaran di kalangan penjenayah dalam memanfaatkan teknologi canggih sedemikian. Sebagai contoh bagaimana jenayah siber berkembang dengan teknologi, Mandia merujuk kepada satu kes penting pada tahun 2001 melibatkan penggodam Rusia yang mengautomatikkan skim penipuan dalam talian, yang secara ketara meningkatkan skop dan keberkesanan aktiviti haram mereka. Contoh ini menunjukkan bagaimana penjenayah siber secara sejarah menyesuaikan diri dengan teknologi baru untuk memperkuat operasi mereka dan mengesyorkan bahawa AI mungkin mengikuti jalan yang sama. Walaupun ancaman yang muncul ini, profesional keselamatan siber menunjukkan optimisme berhati-hati mengenai potensi AI untuk meningkatkan langkah perlindungan. Teknologi AI yang berpotensi digunakan sebagai senjata juga digunakan untuk memperbaiki pengesanan ancaman, mengautomasi respon, dan memperkukuh ketahanan infrastruktur rangkaian. Keupayaan AI untuk menganalisis data dalam jumlah besar dengan pantas dan mengesan anomali menawarkan peluang yang cerah untuk meramalkan serangan dan mengurangkan impaknya. Kesimpulannya, bidang keselamatan siber berada di persimpangan penting di mana AI berfungsi sebagai ancaman yang serius dan aset yang berkuasa. Amaran dari pemimpin seperti Kevin Mandia berfungsi sebagai panggilan mendesak kepada organisasi dan kerajaan untuk melabur secara proaktif dalam penyelesaian keselamatan berkuasakan AI sambil kekal berjaga-jaga terhadap ancaman siber yang semakin canggih. Semakin maju AI, strategi untuk mengelakkan penyalahgunaannya juga harus berkembang, memastikan landskap digital yang lebih selamat untuk semua pihak yang terlibat.