Ang artificial intelligence (AI) ay mabilis na umuunlad sa mga nakaraang taon, na nagbubunga ng isang sikat na uso sa social media: mga AI-generated na video. Ang mga ito ay likha gamit ang mga sopistikadong algorithm ng AI, na nagpapakita ng malikhaing at teknikal na kapangyarihan ng mga makabagong sistemang AI. Mula sa mga deepfake na ginagaya ang mga kilalang personalidad hanggang sa mga makatuturang animated na tagpo, ang mga AI-generated na video ay nakaakit ng milyun-milyong tagagamit sa social media sa buong mundo. Ang pag-usbong ng AI video content ay nagbubukas ng bagong mga oportunidad para sa pagkamalikhain at kasiyahan. Ang mga tagagamit ay nagsusubok sa iba't ibang estilo at format, gamit ang mga kasangkapan ng AI na nakakagawa ng kahanga-hangang makatotohanang visual at audio. Ang ganitong inobasyon ay nagpapalaganap ng viral na pagkalat ng mga AI video, habang ibinabahagi at nire-remix ng mga tao ang mga nilalaman, pinapalawig ang paggawa ng digital media lampas sa dating mga hangganan. Gayunpaman, ang pag-usbong ng mga AI-generated na video ay nagdadala rin ng mga mahahalagang hamon, lalo na para sa mga team na nagmomonitor ng nilalaman sa mga platform ng social media. Hindi tulad ng tradisyong content na nilikha ng mga gumagamit, ang mga video na ito ay pwedeng maging mapanlinlang at mahirap mapag-ibang niya mula sa tunay na footage. Ito ay nagpapahirap sa mga pagsubok na tuklasin ang nakakaloko o mapanganib na materyal, tulad ng mga deepfake na dinisenyo upang magpakalat ng misinformation o manipulahin ang opinyon. Bilang resulta, ang mga tagapangasiwa ng nilalaman ay nakararanas ng lalong malaking pressure upang gumamit ng mga bagong estratehiya at makabagong teknolohiya sa pagtuklas at pamamahala sa mga problemadong AI-generated na video. Kabilang dito ang paggamit ng mga detection tools na pinapagana ng AI na nagsusuri ng mga bahid na natatangi sa sintetikong media, kasabay ng pagpapabuti sa mga proseso ng pagsusuri ng tao na may espesyal na pagsasanay sa mga lalabas na uri ng AI content. Bilang karagdagan, binibigyang-diin din ng mga social media platform ang pagtuturo sa mga gumagamit tungkol sa mga etikal na isyu na kaugnay ng paggawa at pagbabahagi ng AI-generated na mga video. Habang mas laganap ang ganitong mga video, nagsasagawa ang mga platform ng mga programa upang turuan ang mga user tungkol sa mga posibleng panganib at responsibilidad na kaugnay ng AI content— kabilang na ang privacy, pahintulot, misinformation, at ang epekto nito sa pampublikong diskurso. Ang mga etikal na alalahanin ay masalimuot. Maaaring gawin ang AI-generated na mga video nang walang pahintulot ng mga taong nakarerepresenta, na nilalabag ang kanilang personal na karapatan at dignidad.

Bukod dito, ang malawakang pagpapakalat ng deepfake content ay maaaring magpawala ng tiwala sa tunay na media, na nagiging dahilan upang mahirapan ang mga tao na makahanap ng katotohanan mula sa kathang-isip. Kaya’t nagsisikap ang mga kumpanya ng social media na bumuo ng mas maalam na komunidad ng mga gumagamit na may kakayahang kritikal na tasahin ang AI-generated na mga nilalaman. Lampas sa edukasyon, sinusubukan din ng mga platform na bumuo ng mga polisiya na nakaayon sa AI-generated media na nagbabalanse sa pagitan ng pagyayabong ng inobasyon at proteksyon sa mga gumagamit. Halimbawa, maaari nilang ipatupad ang malinaw na mga patakaran sa paglalagay ng label upang agad na makilala ng manonood ang mga sintetikong video. May ilan ding nagsusulong ng mas mahigpit na mga alituntunin laban sa malisyosong paggamit ng AI videos, at may mga parusang ipinatutupad sa mga paglabag. Ang paglitaw ng mga AI-generated na video sa social media ay nagmamarka ng isang masiglang, mabilis na nagbabagong landscape. Habang nag-aalok ito ng walang kapantay na mga oportunidad sa paglikha at ekspresyon, kasabay nito ay hamon din ito sa mga kasalukuyang modelo ng pangangasiwa ng nilalaman at pakikipag-ugnayan ng mga gumagamit. Aktibong pinag-uusapan ng mga stakeholder mula sa industriya ng teknolohiya, akademya, at civil society kung paano mauunawaan at matugunan ang mga komplikadong isyung ito. Sa hinaharap, inaasahang patuloy na lalaki ang AI-generated na nilalaman, dala ng mga pag-unlad sa machine learning, computer vision, at audio synthesis. Habang nagiging mas accessible ang mga teknolohiyang ito, tataas din ang dami at uri ng mga AI videos, na magpapasabog sa pangangailangan na iakma ng mga social media platform at ng kanilang mga team ang kanilang mga patakaran at kakayahan. Sa kabuuan, ang viral na kalakaran ng AI-generated na mga video ay nagbabago sa parehong larangan ng paglikha at paraan ng pangangasiwa ng nilalaman. Ipinapakita nito ang agarang pangangailangan sa mga makabagong kasangkapan sa pagtuklas, matibay na gabay etikal, edukasyon ng mga gumagamit, at komprehensibong mga polisiya upang harapin ang mga hamon na hatid ng sintetikong media. Sa pamamagitan ng maagap na pagtugon sa mga ito, maaaring mapakinabangan ng mga social media platform ang positibong potensyal ng AI videos habang nililimitahan ang mga panganib, at makabuo ng isang mas ligtas, mapagkakatiwalaang digital na kapaligiran para sa lahat ng mga gumagamit.