Seiring dengan perkembangan pesat landskap digital, syarikat-syarikat bersaing secara sengit untuk menguasai era baharu penciptaan kandungan yang didorong oleh kecerdasan buatan (AI) generatif. Organisasi-organisasi ini memasarkan model AI mereka sebagai platform seni inovatif yang membolehkan pengguna merealisasikan projek kreatif yang meliputi produksi filem hingga usaha yang whimsical atau tidak konvensional. Walau bagaimanapun, peningkatan penggunaan alat AI generatif membawa cabaran: selain daripada ekspresi seni yang tulen, pelaku jahat semakin mengeksploitasi teknologi ini untuk tujuan penipuan atau merosakkan. Kehadiran individu-individu jahat ini dalam ekosistem kandungan yang dihasilkan AI sudah ketara dan semakin meningkat. Storyful, agensi berita dunia utama yang pakar dalam pengesahan kandungan yang dihasilkan pengguna, telah memerhatikan kenaikan ketara video yang dihasilkan AI di media sosial. Peningkatan ini selaras dengan perkembangan utama dunia serta kejadian viral yang menarik perhatian ramai. Khususnya, sejak konflik terbaru yang melibatkan Amerika Syarikat, Israel, dan Iran bermula, Storyful melaporkan peningkatan dramatik sebanyak 60 peratus dalam permintaan untuk mengesahkan video yang didakwa berkaitan dengan insiden berita terkini ini. Trend ini menonjolkan potensi semakin besar kandungan video yang dihasilkan AI untuk mempengaruhi persepsi awam dan lanskap maklumat semasa krisis. Walaupun terdapat kebimbangan ini, terdapat berita yang memberi harapan tentang generasi alat video AI terkini. Platform utama—Sora 2 dari OpenAI yang tidak lama lagi dihentikan, Veo 3. 1 dari Google, dan Seedance 2. 0 dari ByteDance—menawarkan keupayaan canggih yang melebihi model terdahulu tetapi masih mempunyai kelemahan intrinsik yang memberikan peluang penting untuk pengesanan dan pengesahan. Kesedaran terhadap kelemahan ini adalah penting bagi profesional yang terlibat dalam pengesahan kandungan, pemeriksaan fakta, dan kewartawanan. Perubahan besar yang dibawa oleh kemajuan AI ini adalah tahap realisme video yang dihasilkan, yang kini cukup asli untuk mencapai penyebaran viral yang meluas.

Kemajuan ini bermakna bendera merah tradisional—seperti pergerakan tangan yang tidak natural, pencahayaan yang tidak konsisten, dan ciri wajah yang terdistorsi—lebih jarang berlaku atau telah dipertingkatkan dengan ketara. Oleh itu, pasukan pengesahan media perlu mengamalkan kaedah yang lebih teliti dan halus, termasuk analisis frame demi frame, untuk mengesan anomali yang halus. Pemeriksaan terperinci ini melibatkan pencarian ketidakkonsistenan fizikal dalam video, perbezaan dalam elemen teks seperti papan tanda atau kapsyen, isu keserasian antara audio dan video, serta kekurangan bukti sokongan seperti saksi mata atau sumber bebas. Proses pengesahan yang menyeluruh ini penting dalam memerangi maklumat palsu dan memelihara integriti maklumat yang disebarkan kepada orang ramai. Penting untuk mendekati kemajuan AI generatif yang pesat ini dengan penuh berhati-hati dan kejelasan. Tidak semua pelepasan teknologi atau kemas kini layak disambut tanpa soal atau dikutuk secara mutlak. Sebaliknya, pihak berkepentingan mesti menilai secara tenang keupayaan dan keterbatasan sebenar alat ini. Pandangan seimbang ini penting untuk membekalkan bilik berita dan pasukan pengesahan dalam mengemudi landskap yang sedang berkembang dengan berkesan. Seiring AI generatif semakin menyatu dalam penciptaan kandungan utama, organisasi berita perlu memberi keutamaan kepada pembangunan protokol pengesahan yang kukuh, melaburkan dalam latihan kakitangan, dan mempromosikan literasi media di kalangan orang ramai. Langkah-langkah ini akan membantu mengurangkan risiko maklumat palsu yang dihasilkan AI dan menyokong penggunaan teknologi berkuasa ini secara bertanggungjawab dan beretika. Akhirnya, cabaran bukan sahaja terletak pada penciptaan alat AI berkualiti tinggi tetapi juga dalam memupuk ekosistem di mana inovasi teknologi berjalan seiring dengan piawaian ketat terhadap kebenaran dan kebertanggungjawaban.