Isang US aircraft carrier na sinira ng granada ng Iran. Mga bomba ng Amerika na nagwawasak sa isang nuclear power plant. Ang Burj Khalifa ay sinusunog ng apoy. Wala sa mga pangyayaring ito ang totoong naganap, ngunit hindi iyon naging hadlang sa mga tao na magbahagi ng mga pekeng video online. Mula nang magsimula ang mga pambibigay ng balita ni Trump sa Iran noong katapusan ng linggo, mabilis na kumakalat sa X at iba pang social media platforms ang mga AI-generated na video na naglalarawan ng mga kathang-isip ngunit mukhang makatotohanan. Matagal nang nagsisilbing mahalagang kasangkapan ang X (dating Twitter) para sa pagbibigay-alam sa real-time kapag may break na balita. Ngunit mukhang unti-unting naiinila ito. Mula nang yumuko si Elon Musk, tuluyang bumaba ang tiwala sa platform bilang mapagkakatiwalaang pinanggagalingan ng balita. Lumala ang moderasyon, mas pinapaboran ng algorithm ang engagement kaysa sa katumpakan, at inilaan ang mga resources sa kanilang problematic na AI platform—ang Grok. Nakita na natin ang mga AI content na may kinalaman sa politika sa platform noon, gaya ng isang pekeng video ni Jake Paul sa mga protesta sa Iran. Ngunit ang mga kamakailang pambobomba sa Venezuela at ngayon sa Iran ay nagdulot ng sunud-sunod na pekeng AI-generated videos na mapanganib. Iba-iba ang sanhi ng ganitong klase ng nilalaman.

May ilang creators na tila nagdiriwang at gamit ang AI upang bigyang-diin ang militar na aksyon nina Trump at Netanyahu. May iba namang nagsusulat upang magdulot ng pagdududa at pababain ang tiwala ng Amerikano sa gobyerno, at gawing malabo ang katotohanan sa impormasyon. Nakababahala, ang Grok—ang native na AI tool ng X—ay mali-maling naglalantad ng mga AI-generated na video bilang tunay. (Walang agarang tugon ang isang tagapagsalita ng X sa mga tanong tungkol dito, ngunit itinuro nila ang mga kamakailang post ng safety team ng kumpanya. ) Noong nakaraang buwan, nakipag-usap si Arianna Coghill mula sa Mother Jones kay Jeremy Carrasco, isang eksperto sa AI content, tungkol sa isyung ito. Nakababahala ang pekeng nilalaman, ngunit binibigyang-diin ni Carrasco na mas malaking pinsala ang epekto nito sa tiwala ng tao sa tunay na mga video. Kapag naging kapani-paniwala at laganap ang pekeng footage, nagsisimula nang magduda ang tao sa lahat—kahit sa totoong footage ng mga totoong pangyayari. Ito ang tunay na hamon na kinahaharap natin ngayon. Mas mahalaga kaysa kailanman ang maging maalam, ngunit sa panahong ito, nangangailangan ito ng dagdag na pag-iingat sa kung ano ang tinatanggap nating totoo—kahit pa ito ay tila nakunan mismo sa harap natin.