Meta, perusahaan induk dari Facebook dan Instagram, kembali menjadi perhatian karena penanganannya terhadap konten yang dihasilkan oleh AI di platformnya. Dewan Pengawasan independen perusahaan secara tegas menyarankan agar Meta mengembangkan kebijakan komprehensif dan khusus yang secara jelas menangani konten terkait AI. Ini menindaklanjuti sebuah insiden besar di mana sebuah video palsu yang dibuat oleh AI yang menampilkan bangunan rusak di Haifa selama konflik Israel-Iran yang diperkirakan akan terjadi pada 2025 menjadi viral, menyesatkan para penonton. Video tersebut mendapatkan lebih dari 700. 000 tampilan sebelum Dewan Pengawasan turun tangan. Dewan mengkritik Meta karena tidak menerapkan label peringatan yang jelas dan mencolok pada video tersebut, yang seharusnya bisa memberi tahu pengguna tentang sifat palsunya. Selain itu, Meta gagal membatasi atau menghapus konten menyesatkan tersebut secara memadai, meskipun ada laporan dari pengguna dan pengakuan atas kebohongannya. Keputusan resmi dari Dewan Pengawasan menunjukkan adanya kesenjangan signifikan dalam kebijakan konten AI Meta saat ini dan menegaskan bahwa insiden ini mencerminkan tantangan global: penyebaran cepat media yang dibuat oleh AI yang menyesatkan dan dapat menipu jutaan orang serta memicu kerusuhan. Kemajuan teknologi AI memungkinkan penciptaan gambar dan video yang sangat realistis tetapi sepenuhnya palsu, yang mengancam integritas informasi di media sosial, di mana visual sering memengaruhi opini publik secara cepat dan luas. Sebagai salah satu platform terbesar di dunia, Meta memegang peran penting dalam penyebaran informasi dan memikul tanggung jawab besar untuk menandai, memberi label, atau menghapus konten yang dihasilkan oleh AI secara tepat guna membatasi disinformasi. Insiden ini mengungkap bahwa langkah-langkah yang ada saat ini tidak cukup, sehingga menekankan perlunya protokol dan alat yang diperbarui yang disesuaikan dengan tantangan spesifik AI.

Dewan Pengawasan merekomendasikan agar Meta membentuk kerangka kebijakan khusus yang secara jelas mendefinisikan konten yang dihasilkan oleh AI dan menetapkan tindakan yang harus diambil ketika konten tersebut teridentifikasi. Kebijakan ini harus mewajibkan pengungkapan atau label peringatan, memperkuat moderasi konten, meningkatkan teknologi deteksi, dan menjaga komunikasi yang transparan tentang risiko manipulasi AI. Pengembangan kebijakan seperti ini sangat penting tidak hanya untuk menjaga kepercayaan pengguna tetapi juga untuk mengatasi masalah disinformasi yang lebih luas di masyarakat. Konten palsu yang dihasilkan AI dapat memperburuk ketegangan geopolitik, memicu kampanye disinformasi, dan merusak proses demokrasi dengan menyebarkan narasi palsu yang tampak kredibel. Sebagai tanggapan, Meta telah mengakui tantangan ini dan menunjukkan rencana untuk meninjau serta mungkin merevisi kebijakan kontennya agar lebih mampu menangani media yang dihasilkan oleh AI dan memperkuat perlindungan terhadap disinformasi. Insiden video di Haifa menjadi studi kasus penting yang menunjukkan betapa cepatnya disinformasi berbasis AI dapat menyebar secara daring. Hal ini menyoroti perlunya perusahaan media sosial tetap waspada dan terus memperbarui kebijakan serta teknologi mereka menghadapi ancaman digital yang selalu berkembang. Seiring makin berkembangnya peran AI dalam penciptaan konten, platform seperti Meta memiliki tanggung jawab semakin besar untuk mengelola dan mengurangi risiko terkait. Pengembangan dan penerapan kebijakan konten AI yang jelas dan efektif adalah langkah krusial untuk melestarikan akurasi dan keandalan informasi di media sosial serta melindungi publik dari penipuan di era digital.