El ràpid avenç i l’ús generalitzat de les tecnologies d’intel·ligència artificial (IA) han provocat un augment exponencial de contingut generat per IA, especialment vídeos altament realistes. Tot i mostrar un progrés tecnològic impressionant, aquests avenços han posat en risc la confiança pública, crítics i experts, davant de possibles conseqüències negatives. Una de les preocupacions principals és la confusió i la propagació de desinformació causada pel contingut generat per IA. En els darrers anys, la capacitat de la IA per crear vídeos que imiten persones, esdeveniments i escenaris reals—coneguts com a "deepfakes"—ha crescut de manera exponencial. Aquests vídeos, produïts amb algoritmes avançats d’aprenentatge automàtic i grans conjunts de dades, són molt convinents i dificulten que els espectadors diferenciïn entre imatges reals i artificials. Tot i que la tecnologia de deepfake té aplicacions legítimes en entreteniment, educació i indústries creatives, el seu mal ús comporta riscos importants. Els crítics destaquen que, tot i que la facilitat de producció i distribució de vídeos generats per IA democratitza la creació de contingut i fomenta noves formes d’expressió, també augmenta el potencial d’enganyament. Aquest tipus de contingut pot manipular l’opinió pública, influir en el discurs polític i minar la confiança en les fonts d’informació autèntiques. A mesura que el contingut generat per IA es fa més accessible i sofisticat, la frontera entre fet i ficció es difumina cada vegada més. Aquesta confusió genera preocupacions crítiques sobre la confiança social i la precisió de la informació. Quan les persones no poden identificar de manera fiable les imatges reals, la seva capacitat de prendre decisions informades es veu afectada. El repte s’actualitza encara més perquè les xarxes socials i altres plataformes sovint circulen aquest contingut de manera ràpida, superant els esforços de verificació. Els experts preocupen que la desinformació basada en vídeos generats per IA pugui tenir efectes de llarg abast: vídeos falsificats que difamen personatges públics, fomentin disturbis socials o disseminin falsedats durant esdeveniments crucials com eleccions o crisis sanitàries.

A més, els espectadors que descobreixin que han estat enganyats poden sentir-se traicionats, contribuint a una erosió més àmplia de la confiança pública en els mitjans de comunicació. Per abordar aquests desafiaments, cal un enfocament multifacètic. Primer, millorar l’educació mediàtica i la formació pública és essencial per equipar les persones amb habilitats per avaluar críticament i qüestionar el contingut, reconèixer la manipulació per IA i navegar millor en l’actual paisatge informatiu. En segon lloc, s’estan desenvolupant solucions tecnològiques per detectar contingut generat per IA, amb investigadors i empreses creant eines que analitzen vídeos per trobar inconsistències o senyals de creació artificial. Tot i això, els mètodes de detecció han de constants evolucions per seguir el ritme de les capacitats creixents de la IA. En tercer lloc, les àmbits normatius i de polítiques han d’adaptar-se a la tecnologia. Els governs i organismes internacionals estan explorant lleis i directrius per regular l’ús ètic de la IA, protegir les persones del contingut maliciós i responsabilitzar aquells que difonen desinformació perjudicial. A més, les plataformes de xarxes socials i els distribuïdors de contingut tenen la responsabilitat d’una moderação rigorosa. Mitjançant la utilització d’eines de detecció de IA, la millora dels processos de verificació i la promoció de fonts creïbles, aquestes plataformes poden ajudar a frenar la propagació de vídeos enganyosos generats per IA. El diàleg continuat sobre el contingut generat per IA i la desinformació subratlla la necessitat de col·laboració entre tecnòlegs, responsables polítics, educadors, periodistes i la ciutadania. Campanyes de conscienciació, informes transparents i la promoció d’una cultura que valori la veritat i la verificació són crucials per contrarestar els desafiaments que plantegen els vídeos generats per IA. En resum, tot i que els vídeos generats per IA representen un avenç notable en la creació de contingut, la seva proliferació contribueix a la confusió i a la difusió generalitzada de desinformació. Aquesta tendència amenaça la confiança pública i la integritat de la informació social. Combatre aquests problemes requereix esforços coordinats entre sectors per fer un ús responsable dels beneficis de la IA sense posar en risc els fonaments de la veritat i del discurs informat en les nostres comunitats.