Muling pinasusubalian ang Meta, ang parent company ng Facebook at Instagram, sa paglilitis ukol sa kanilang paghawak sa nilalaman na nilikha gamit ang AI sa kanilang mga plataporma. Matibay na inirekomenda ng independent Oversight Board ng kumpanya na bumuo ang Meta ng isang komprehensibo at nakatuong polisiya na tiyak na tutukoy sa mga AI-related na nilalaman. Ito ay kasunod ng isang pangunahing insidente kung saan isang pekeng video na nilikha gamit ang AI na nagpakita ng mga sirang gusali sa Haifa noong isang nakatakdang gera sa pagitan ng Israel at Iran sa 2025 ang kumalat sa social media, na nakakalito sa mga manonood. Ang video ay nakakuha ng mahigit 700, 000 na panonood bago nakialam ang Oversight Board. Binatikos ng board ang Meta sa hindi paglalagay ng malinaw at kapansin-pansing warning label sa video, na maaaring nakaalerto sana sa mga gumagamit tungkol sa pekeng kalikasan nito. Bukod dito, nabigo ang Meta na sapat na mahatulan o matanggal ang mapanlinlang na nilalaman, kahit pa may mga flag mula sa mga gumagamit at pagkilala na ito ay peke. Binigyang-diin ng pormal na desisyon ng Oversight Board ang malalaking kakulangan sa kasalukuyang mga polisiya ng Meta ukol sa AI content at binigyang-diin na ang insidenteng ito ay nagsisilbing hamon sa buong mundo: ang mabilis na pagkalat ng maling impormasyon na gawa sa AI na maaaring manlinlang sa milyon-milyon at magdulot ng hindi pagkakaunawaan. Ang pag-unlad ng teknolohiya ng AI ay nagpapahintulot sa paggawa ng mga lubhang makatotohanang ngunit ganap na peke na mga larawan at video, na naglalagay sa kritikal na banta sa integridad ng impormasyon sa social media, kung saan ang mga visual ay madalas na nakakaimpluwensya sa opinyon ng publiko nang mabilis at malawakan. Bilang isa sa mga pinakamalaking plataporma sa buong mundo, may malaking papel ang Meta sa pagpaparaming ng impormasyon at may mabigat na responsibilidad na tama at angkop na i-flag, i-label, o tanggalin ang mga AI-generated na nilalaman upang mapanatili ang katotohanan at maiwasan ang maling impormasyon. Ipinapakita ng insidente na hindi sapat ang kasalukuyang mga hakbang at binibigyang-diin ang agarang pangangailangan para sa mas modernong mga protocol at kasangkapan na nakatuon sa mga partikular na hamon ng AI.

Inirekomenda ng Oversight Board na magtatag ang Meta ng isang nakatuong polisiya na malinaw na nagde-define sa AI-generated na nilalaman at naglalahad ng mga aksyon kapag natukoy ito. Dapat ang polisiya na ito ay mangailangan ng paglalathala ng diskwento o warning labels, palakasin ang content moderation, pagbutihin ang detection technologies, at panatilihin ang bukas na komunikasyon ukol sa mga panganib ng AI manipulation. Ang paggawa at pagpapalawig ng ganitong polisiya ay mahalaga hindi lamang upang mapanatili ang pagtitiwala ng mga gumagamit kundi pati na rin upang labanan ang mas malawak na isyu ng misinformation sa lipunan. Ang pekeng nilalaman na gawa sa AI ay maaaring magpalala ng mga tensyon sa geopolitika, magpasibol ng mga kampanya ng maling impormasyon, at sirain ang demokratikong proseso sa pamamagitan ng pagpapakalat ng magmukhang kredibleng maling naratibo. Bilang tugon, kinikilala ng Meta ang mga hamong ito at nagbigay-alam ng kanilang plano na suriin at posibleng rebisahin ang kanilang mga polisiya sa nilalaman upang mas mahusay na matugunan ang mga isyu sa AI-generated na media at palakasin ang mga proteksyon laban sa maling impormasyon. Ang insidente sa video sa Haifa ay nagsisilbing mahalagang aral kung gaano kabilis kumakalat online ang misinformation na gawa sa AI. Ipinapakita nito ang pangangailangan ng mga kumpanya sa social media na manatiling mapagbantay at patuloy na i-update ang kanilang mga polisiya at teknolohiya sa harap ng patuloy na pagbabago ng mga digital na banta. Habang mas lumalawak ang papel ng AI sa paggawa ng nilalaman, mas nagiging mahalaga ang responsibilidad ng mga plataporma tulad ng Meta na pamahalaan at mapagaan ang mga kaugnay na panganib. Ang pagpapalago at pagbuo ng malinaw at mabisang polisiya sa AI content ay isang kritikal na hakbang upang mapanatili ang katotohanan at katumpakan ng impormasyong nakakalat sa social media at maprotektahan ang publiko mula sa panlilinlang sa digital na panahon.