El setembre de 2025, OpenAI va llançar l'aplicació Sora, una plataforma innovadora que permet als usuaris crear vídeos amb reproduccions altament realistes de ells mateixos o d'altres utilitzant tecnologia avançada d'IA. Aquesta innovació obre noves vies en l'entreteniment, l'educació, el màrqueting i les xarxes socials. No obstant això, malgrat el seu potencial, recentment els avenços han despertat importants preocupacions de seguretat i ètica pel que fa als mitjans generats per IA. Poc després de l'estrena de Sora, Reality Defender, una empresa especialitzada en detectar deepfakes i mitjans manipulats, va descobrir que les mesures de seguretat de l’app, dissenyades per evitar l'ús indegut de vídeos públics, podien ser vulnerades en 24 hores. Mitjançant vídeos públics de figures conegudes, Reality Defender va produir deepfakes convincents que van superar els sistemes de verificació d'OpenAI. Aquest ràpid assalt il·lustra com els actuals mètodes d'autenticació poden quedar fàcilment superats per actors malintencionats decidits. Amb un gran abast de contingut públic a Internet, crear vídeos realistes però fabricats s’ha tornat molt més senzill, cosa que genera preocupacions sobre la desinformació, la manipulació de l’opinió pública i la pèrdua de confiança en els mitjans digitals. Experts en IA, ciberseguretat i ètica digital han expressat serioses inquietuds. La doctora Elaine Thompson, una de les principals ètiques de la IA, va assenyalar que, tot i que tecnologies com Sora són impressionants, comporten noves responsabilitats; és imprescindible disposar d’eines robustes de detecció i de pautes ètiques per evitar que l’ús indegut eclipsi els beneficis. Els especialistes del sector destaquen que, atès que les tecnologies de deepfake avancen ràpidament, les estratègies de detecció i mitigació han de desenvolupar-se igual de ràpid. Reclamen una col·laboració entre desenvolupadors d’IA, experts en seguretat, responsables polítics i la societat civil per establir estàndards que garanteixin un ús responsable de tecnologies com Sora.

En resposta a aquests descobriments, OpenAI es va comprometre a enfortir la seguretat de Sora explorant mètodes avançats de verificació com l’autenticació multifactor, marques d’aigua digitals dins del contingut generat i l’anàlisi del comportament per diferenciar millor el contingut genuí del sintètic. També s’està assolint un consens creixent sobre la necessitat de règlements nacionals i internacionals. Es fa una crida als responsables polítics perquè establert normatives clares sobre la creació, distribució i etiquetatge de mitjans generats per IA, per definir responsabilitats en cas d’ús indegut i per garantir la transparència, en defensa dels drets individuals i els interessos públics. Els reptes plantejats pels mitjans generats per IA s’estenen a àmbits socials i filosòfics. La facilitat de produir falsificacions convincents desafia les idees tradicionals d’evidència i autenticitat, i genera crides a augmentar la cultura mediàtica i la consciència pública per ajudar les persones a avaluar críticament el contingut digital. S’estan desenvolupant programes educatius per ensenyar als estudiants els riscos del contingut generat per IA i com identificar fonts fiables, amb l’objectiu de construir un públic més informat capaç de navegar pels canvis tecnològics ràpids. Les col·laboracions entre empreses tecnològiques i verificadors de fets també resulten claus. Creant bases de dades compartides de contingut verificat i utilitzant eines automàtiques per detectar material sospitós, l’ecosistema mediàtic digital pot millorar la seva resiliència davant la manipulació. En resum, l'aplicació Sora d’OpenAI representa un gran avanç en el contingut generat per IA, amb possibilitats emocionants i reptes importants. La rapidesa amb què Reality Defender va superar les defenses de Sora posa de manifest la necessitat urgent d’augmentar la seguretat, els marcs ètics i la regulació. Afrontar aquests temes complexos exigeix un esforç col·laboratiu entre diverses parts interessades per equilibrar innovació i responsabilitat, assegurant que els avanços en els mitjans digitals no perjudiquin la confiança i la integritat del nostre món digital.