Recentment, una onada de vídeos generats per IA que representen de manera falsa escenes dràstiques i violentes del conflicte Iran-Israel s’ha multiplicat ràpidament a les principals plataformes de xarxes socials com X (antiga Twitter) i TikTok. Aquests clips fabricats inclouen una dona creada amb IA que informa des d’una presó de Teheran en flames, imatges falsificades de gratacres de Tel Aviv reduïts a ruïnes i un vídeo fals d’una aeronau militar israeliana abatut. Atrapant milions de visualitzacions, aquest contingut posa de manifest la sofisticació creixent i l’abast de la desinformació impulsada per IA durant crisis geopolítiques. aquesta onada de deepfakes exemplifica una tendència creixent de mitjans sintètics utilitzats per manipular la percepció pública i difondre narratives falses enmig de moments crítics. Experts adverteixen que aquest contingut fabricat borra la línia entre veritat i falsedat, augmentant les tensions i minant un debat informat. Investigadors del Media Forensics Hub de la Universitat de Clemson, que van estudiar la difusió viral d’aquests vídeos, van revelar que xarxes coordinades d’actors a X—que donen suport a grups d’oposició iranians—promouen activament aquestes imatges generades per IA per erosionar la confiança en el govern iranià i aprofundir les divisions socials. La ràpida proliferació d’aquests vídeos planteja desafiaments importants per a les plataformes de xarxes socials i per a tot l’ecosistema informatiu. Els mètodes tradicionals de verificació tenen dificultats per seguir el ritme dels avenços en la síntesi de mitjans per IA, que pot crear imatges hiper-realistes però completament falses.

Aquest salt tecnològic suscita preocupacions alarmants sobre l’ús de la desinformació com a eina per manipular narratives, influir en la política i alimentar conflictes. Les empreses de xarxes socials pateixen una pressió creixent per implementar defenses sòlides contra l’abús de mitjans sintètics. Exploren algoritmes avançats de detecció, col·laboracions de verificació i campanyes d’educació a l’usuari; però, la gran quantitat i complexitat de continguts generats per IA fa que la moderação sigui difícil, i els experts adverteixen que cap solució única és suficient davant l’evolució constant de la tecnologia deepfake. Més enllà de l’impacte immediat en el conflicte Iran-Israel, aquesta onada de vídeos generats per IA ressalta desafiaments més amplis per a la confiança en la informació digital. A mesura que l’IA avança, cada cop és més difícil diferenciar mitjans autèntics de fabricats, amenaçant la estabilitat social, complicant la diplomàcia i alimentant la desestabilització global impulsada per la desinformació. Analistes ressalten la importància de millorar la “literacia mediàtica” pública per identificar i qüestionar millor contingut sospitós. La major transparència de les plataformes, juntament amb esforços proactius dels governs i de la societat civil, són claus per combatre la propaganda deepfake. En resum, la recent allau de vídeos generats per IA que representen escenes del conflicte Iran-Israel posa en evidència els perills cada vegada majors dels mitjans sintètics en l’era de la informació d’avui. A mesura que aquestes visuals fabricades s’expandeixen àmpliament en línia, els actors involucrats afronten desafiaments creixents per protegir la integritat de les notícies i el debat públic, fent evident la necessitat urgent de apply estratègies multifacètiques per detectar, exposar i contrarestar la desinformació impulsada per deepfake abans que amenaçi encara més la pau i la estabilitat mundial.