A mes que la landscape digital evoluciona ràpidament, les empreses competeixen ferotgement per dominar la nova era de la creació de continguts impulsada per la intel·ligència artificial generativa (IA). Aquestes organitzacions comercialitzen els seus models d’IA com a plataformes artístiques innovadores que permeten als usuaris materialitzar projectes creatius que van des de produccions cinematogràfiques fins a projectes fantasmagòrics o no convencionals. No obstant això, l’auge d’eines d’IA generativa comporta desafiaments: més enllà de l’expressió artística autèntica, actors malintencionats exploten cada vegada més aquestes tecnologies amb finalitats enganyoses o perjudicials. La presència d’aquests actors nocius a l’ecosistema de continguts generats per IA ja és evident i creixde manera significativa. Storyful, una de les principals agències de notícies globals especialitzada en verificar continguts generats per usuaris, ha observat un augment notable de vídeos generats per IA a les xarxes socials. Aquest creixement s’alinea amb els grans desenvolupaments globals i esdeveniments virals que capten l’atenció generalitzada. Específicament, des que va començar el recent conflicte que involucra els Estats Units, Israel i Iran, Storyful informa d’un augment dramàtic del 60% en les peticions per verificar vídeos suposadament relacionats amb aquests incidents de última hora. Aquesta tendència posa de manifest el creixent potencial del contingut de vídeo generat per IA per influir en la percepció pública i en el panorama informatiu durant les crisi. Malgrat aquestes preocupacions, hi ha bones notícies sobre la generació actual d’eines de vídeo amb IA. Les principals plataformes—Sora 2 de OpenAI, que properament s’apartarà, Veo 3. 1 de Google i Seedance 2. 0 de ByteDance—oferixen capacitats avançades que superen els models previs tot i compartir vulnerabilitats inherents que creen oportunitats crítiques per a la detecció i verificació. La consciència d’aquestes febleses és essencial per als professionals implicats en la verificació de continguts, la verificació de dades i el periodisme. Un canvi important provocat per aquests avenços en IA és la major realisme dels vídeos generats, ara prou autèntics per aconseguir una difusió viral ampla.

Aquest progrés fa que les senyals d’alerta tradicionals—com ara moviments de mans naturals, il·luminació inconsistent o trets facials distorsionats— siguin menys freqüents o estiguin significantment millorats. En conseqüència, els equips de verificació mediàtica han d’adoptar mètodes més meticulosos i matisats, incloent un anàlisi per fotograma, per detectar anomalies subtils. Aquest tipus de revisió detallada implica cercar inconsistències físiques que apareguin en el vídeo, discrepàncies en elements textuals com cartells o subtítols, problemes de sincronització entre àudio i vídeo, i l’absència crítica d’evidències de suport com testimonis de testimonis visuals o fonts independents. Aquest procés de verificació multifacètic és fonamental per combatre la desinformació i mantenir la integritat de la informació que arriba al públic. És vital abordar els avenços ràpids de la IA generativa amb cura i claredat. No cada llançament o actualització tecnológica mereix un entusiasme cec ni una condemna absoluta. Al contrari, els actius haurien de valorar calmadament les capacitats i limitacions reals d’aquestes eines. Aquesta visió equilibrada és essencial per preparar els redactors i equips de verificació per captar i navegar eficaçment pels canvis de l’entorn. A mesura que la IA generativa s’integra en la creació de continguts generalitzada, les organitzacions de notícies han de prioritzar el desenvolupament de protocols de verificació sòlids, invertir en la formació del personal i promoure la alfabetització digital entre el públic. Aquests passos ajudaran a reduir els riscos de desinformació generada per IA i a impulsar un ús responsable i ètic d’aquestes tecnologies potents. En definitiva, el repte no només rau en crear eines d’IA de gran qualitat, sinó també en fomentar un ecosistema on la innovació tecnològica conviu amb estàndards rigorosos de veritat i responsabilitat.