Meta, la company que controla Facebook i Instagram, torna a estar sota l’escrutini per la seva gestió del contingut generat per IA a les seves plataformes. El consell de vigilància independent de l’empresa ha recomanat fermament que Meta desenvolupi una política integral i específica que abordi el contingut relacionat amb l’IA. Aquesta situació s’ha vist precipitada per un incident important en què un vídeo falsificat, generat per IA i que mostrava edificis destrossats a Haifa durant un conflicte previst entre Israel i Iran el 2025, es va viralitzar, enganyant els espectadors. El vídeo va acumular més de 700. 000 visualitzacions abans que el consell de vigilància intervingués. El consell va criticar Meta per no haver aplicat una advertència clara i visible al vídeo, que hauria pogut alertar els usuaris de la seva naturalesa fabricada. A més a més, Meta no va restringir ni eliminar adequadament el contingut enganyós, tot i les queixes dels usuaris i el reconeixement de la seva falsedat. La decisió formal del consell de vigilància va destacar importants mancances en les polítiques actuals de Meta sobre contingut generat per IA i va remarcar que aquest incident reflecteix un repte global: la ràpida propagació de mitjans falsos produïts per IA que poden enganyar milions i incitar a la desordre. Els avenços en la tecnologia d’IA permeten crear imatges i vídeos altament realistes però completament fabricats, representant una amenaça crítica per a la integritat de la informació a les xarxes socials, on els elements visuals sovint influeixen de manera ràpida i àmplia en l’opinió pública. Com a una de les plataformes més grans del món, Meta juga un paper fonamental en la difusió d’informació i té una responsabilitat significativa de senyalitzar, etiquetar o eliminar contingut generat per IA per frenar la desinformació. L’incident posa de manifest que les mesures actuals són insuficients, fent evident la necessitat urgent de protocols i eines actualitzades, adaptades als reptes específics de la IA.

El consell de vigilància recomana que Meta establishi un marc de polítiques dedicat que defineixi clarament el contingut generat per IA i les accions a prendre quan es detecti. Aquesta política hauria de requerir la presentació de disclosures o avisos, reforçar la moderació de contingut, millorar les tecnologies de detecció i mantenir una comunicació transparent sobre els riscos de manipulació amb IA. El desenvolupament d’aquesta política és essencial no només per mantenir la confiança dels usuaris, sinó també per combatre qüestions més àmplies de desinformació social. El contingut falsificat per IA pot agreujar tensions geopolítiques, alimentar campanyes de desinformació i minar els processos democràtics a causa de narratives falses que semblen creïbles. En resposta, Meta ha reconegut aquests desafiaments i ha indicat plans per revisar i possiblement revisar les seves polítiques de contingut per abordar millor els mitjans generats per IA i reforçar les mesures contra la desinformació. L’incident del vídeo de Haifa serveix com a estudi de cas crucial que mostra com la desinformació impulsada per IA pot expandir-se ràpidament en línia. Ressalta la necessitat que les empreses de xarxes socials es mantinguin vigilants i actualitzin contínuament les seves polítiques i tecnologies davant d’una amenaça digital en constant evolució. A mesura que el paper de la IA en la creació de contingut creix, plataformes com Meta tenen una responsabilitat cada cop més important d’administrar i mitigar els riscos associats. Desenvolupar i implementar polítiques clares i efectives sobre contingut generat per IA és un pas fonamental per protegir la precisió i confiança en la informació a les xarxes socials i protegir el públic de la manipulació en l’era digital.