Meta, syarikat induk Facebook dan Instagram, sekali lagi berada di bawah pemerhatian berikutan pengendalian kandungan yang dijana AI di platformnya. Lembaga Pengawasan bebas syarikat itu dengan tegas mengesyorkan agar Meta membangunkan satu polisi komprehensif dan khusus yang menangani kandungan berkaitan AI. Ini berikutan insiden besar di mana sebuah video palsu yang dijana AI menunjukkan bangunan yang rosak di Haifa semasa konflik Israel-Iran dijangka tahun 2025 menjadi tular, menyesatkan penonton. Video tersebut memperoleh lebih dari 700, 000 tontonan sebelum Lembaga Pengawasan campur tangan. Lembaga tersebut mengkritik Meta kerana tidak menggunakan label amaran yang jelas dan menonjol terhadap video berkenaan, yang sepatutnya dapat memberi amaran kepada pengguna tentang sifat palsunya. Selain itu, Meta gagal menyekat atau menghapuskan kandungan yang menyesatkan itu secara memadai, walaupun ada laporan daripada pengguna dan pengesanan terhadap kenyataan palsu tersebut. Keputusan rasmi Lembaga Pengawasan menyorot jurang besar dalam dasar kandungan AI Meta sekarang dan menegaskan bahawa kejadian ini mencerminkan cabaran global: penyebaran cepat media yang dihasilkan AI yang boleh menipu jutaaan orang dan menimbulkan kekacauan. Teknologi AI yang semakin maju membolehkan penciptaan imej dan video yang sangat realistik tetapi sepenuhnya rekaan, yang menimbulkan ancaman utama terhadap integriti maklumat di media sosial, di mana visual sering mempengaruhi pendapat umum dengan pantas dan meluas. Sebagai salah satu platform terbesar di dunia, Meta memainkan peranan penting dalam penyebaran maklumat dan memikul tanggungjawab besar untuk menandakan, melabel, atau menghapus kandungan yang dijana AI dengan betul untuk membendung maklumat salah. Insiden ini mendedahkan bahawa langkah sedia ada adalah tidak mencukupi, menekankan keperluan mendesak untuk prosedur dan alat yang dikemas kini yang khusus untuk cabaran berkaitan AI.

Lembaga Pengawasan mengesyorkan Meta menubuhkan rangka dasar khusus yang dengan jelas mendefinisikan kandungan yang dijana AI dan menetapkan tindakan yang perlu diambil apabila dikenalpasti. Polisi ini harus mewajibkan pendedahan atau label amaran, memperkukuh moderasi kandungan, meningkatkan teknologi pengesanan, dan memastikan komunikasi yang telus mengenai risiko manipulasi AI. Pembangunan polisi sebegini adalah penting bukan sahaja untuk mengekalkan kepercayaan pengguna tetapi juga untuk menangani isu misinformation yang lebih luas dalam masyarakat. Kandungan AI palsu boleh memperlihatkan ketegangan geopolitik, mengobarkan kempen maklumat salah, dan merosakkan proses demokratik dengan menyebarkan naratif palsu yang kelihatan meyakinkan. Sebagai respons, Meta telah mengakui cabaran ini dan menunjukkan rancangan untuk menyemak dan mungkin mengubahsuai dasar kandungan mereka bagi menangani media yang dijana AI dan memperkukuh perlindungan terhadap maklumat palsu. Insiden video di Haifa ini menjadi satu kajian kes penting yang menunjukkan betapa pantasnya maklumat salah yang dijana AI boleh menyebar di dalam talian. Ia menekankan keperluan syarikat media sosial untuk sentiasa berwaspada dan mengemas kini polisi serta teknologi mereka secara berterusan di tengah-tengah ancaman digital yang sentiasa berkembang. Seiring dengan pengembangan peranan AI dalam penciptaan kandungan, platform seperti Meta mempunyai tanggungjawab yang semakin penting untuk mengurus dan mengurangkan risiko yang berkaitan. Membina dan melaksanakan polisi kandungan AI yang jelas dan berkesan adalah langkah utama untuk melindungi ketepatan dan kebolehpercayaan maklumat di media sosial serta melindungi masyarakat daripada penipuan dalam era digital.