Kecerdasan Buatan telah berkembang dengan pesat baru-baru ini, mengubah bidang seperti komunikasi, hiburan, dan keselamatan. Namun, seperti teknologi yang kuat lainnya, penyalahgunaan AI menimbulkan cabaran serius. Salah satu kebimbangan utama adalah penipu yang memanfaatkan aplikasi video AI untuk menjalankan penipuan dan peniruan yang canggih, menandakan evolusi yang membimbangkan dalam jenayah siber yang menggemparkan pakar keselamatan di seluruh dunia. Contoh terbaru ialah pelepasan aplikasi Sora untuk iOS oleh OpenAI, yang menggunakan model penjanaan video canggih untuk membolehkan pengguna mencipta video AI yang sangat realistik dengan mudah. Walaupun inovatif, Sora menyertakan ciri kontroversi yang menghapuskan watermark—tanda yang tertanam dalam kandungan yang dicipta oleh AI untuk mengenal pasti bahawa ia adalah buatan. Penghapusan ini menyukarkan pembezaan antara kandungan sebenar dan deepfake, meningkatkan risiko penipuan. Pakar memberi amaran bahawa alat ini dapat memburukkan lagi masalah yang sudah semakin meningkat. Penipuan peniruan telah meningkat walaupun sebelum penghasilan generator video AI yang mudah diakses, menyebabkan kerugian besar kepada individu dan organisasi serta merosakkan kepercayaan terhadap komunikasi digital. Kini, penipu boleh menggunakan manipulasi video dan audio yang canggih untuk menghasilkan deepfake yang sangat meyakinkan, meniru wajah dan suara orang sebenar. Penipuan palsu ini boleh meniru eksekutif, pegawai, selebriti, atau individu biasa untuk memudahkan penipuan, penyebaran maklumat palsu, pencurian identiti, dan ugutan. Untuk mengatasi hal ini, platform seperti Meta AI mengehadkan fungsi tertentu—contohnya, mengelakkan penyalinan suara agar dapat membatasi risiko peniruan. Namun, banyak aplikasi AI masih menawarkan kemampuan penyalinan suara dan wajah secara meluas, meningkatkan skala dan keberkesanan penipuan. Ciri-ciri ini terutamanya memperlihatkan kekaburan antara media asli dan yang direka, menyukarkan pengesanan walaupun oleh pakar yang tidak mempunyai alat khusus. Firma keselamatan seperti GetReal Security dan Sophos menyorot ancaman meluas dan semakin meningkat akibat penipuan berasaskan AI.

Penyelidikan mereka mendedahkan trend peningkatan dalam penipuan menggunakan video dan audio yang dijana oleh AI, sering kali menargetkan perniagaan dan individu penting. Mereka memberi amaran bahawa apabila teknologi AI berkembang pesat, langkah keselamatan tradisional mungkin tidak mencukupi, dan memerlukan strategi proaktif seperti algoritma pengesanan canggih dan latihan literasi digital yang komprehensif untuk mengurangkan risiko. Menariknya, OpenAI menyatakan bahawa alat ChatGPT yang digunakan secara meluas lebih sering membantu dalam pengesanan penipuan berbanding melakukan penipuan, menggambarkan peranan dwisisi AI: sambil membolehkan penjahat baharu, ia juga meningkatkan keupayaan pembela untuk mengenal pasti penipuan. Walau bagaimanapun, skala dan automasi penipuan berasaskan AI kekal menjadi kebimbangan utama. Keupayaan untuk menghasilkan deepfake yang meyakinkan secara besar-besaran dengan usaha yang minima boleh menyebabkan peningkatan penipuan jika langkah-langkah pencegahan tidak mengikuti. Situasi ini menunjukkan bahawa manusia masih berada di peringkat awal dalam perkembangan AI. Ketika teknologi ini berkembang, mengimbangi penggunaan yang bermanfaat terhadap eksploitasi yang berniat jahat akan menjadi cabaran yang kompleks dan dinamik. Pengawasan dari pihak pemaju, profesional keselamatan, pembuat dasar, dan orang ramai adalah penting. Pembangunan secara beretika, amalan yang telus, dan protokol keselamatan yang kukuh adalah kunci untuk meminimumkan kerosakan sambil memaksimumkan manfaat AI kepada masyarakat. Secara ringkas, aplikasi seperti Sora oleh OpenAI mencerminkan kemajuan teknologi yang menarik dan cabaran keselamatan digital yang besar. Ketika alat video yang dijana AI menjadi lebih mudah diakses dan canggih, penyalahgunaannya dalam skim penipuan dan peniruan semakin meningkat. Mengatasi masalah ini memerlukan pendekatan pelbagai aspek yang meliputi inovasi teknologi, pengawasan perundangan, pendidikan, dan kerjasama. Melalui peningkatan kesedaran dan kepekaan, masyarakat dapat lebih baik menavigasi landskap keselamatan siber yang sedang berkembang ini dan melindungi individu serta organisasi daripada penipuan berlakon AI yang semakin meyakinkan.