Meta, la empresa matriz de Facebook e Instagram, vuelve a estar bajo escrutinio por su manejo del contenido generado por inteligencia artificial en sus plataformas. La Junta de Supervisión independiente de la compañía ha recomendado enérgicamente que Meta desarrolle una política integral y específica que aborde el contenido relacionado con la IA. Esto sigue a un incidente importante en el que un video falso generado por IA, que mostraba edificios dañados en Haifa durante un conflicto proyectado entre Israel e Irán en 2025, se volvió viral, confundiendo a los espectadores. El video obtuvo más de 700, 000 visualizaciones antes de que la Junta de Supervisión interviniera. La junta criticó a Meta por no aplicar una advertencia clara y prominente en el video, que podría haber alertado a los usuarios sobre su naturaleza ficticia. Además, Meta no restringió ni eliminó adecuadamente el contenido engañoso, a pesar de las denuncias de los usuarios y el reconocimiento de su falsedad. La decisión formal de la Junta de Supervisión destacó brechas significativas en las políticas actuales de Meta sobre contenido generado por IA y subrayó que el incidente refleja un desafío global: la rápida difusión de medios engañosos producidos por IA que pueden engañar a millones y provocar disturbios. El avance de la tecnología de IA permite crear imágenes y videos altamente realistas pero completamente fabricados, lo que representa una amenaza crítica para la integridad de la información en las redes sociales, donde las imágenes a menudo influyen en la opinión pública de manera rápida y extensa. Como una de las plataformas más grandes del mundo, Meta desempeña un papel crucial en la difusión de información y tiene la responsabilidad de etiquetar, marcar o eliminar adecuadamente el contenido generado por IA para frenar la desinformación. El incidente revela que las medidas existentes son insuficientes, y subraya la urgente necesidad de protocolos y herramientas actualizadas, adaptadas a los desafíos específicos de la IA.

La Junta de Supervisión recomienda que Meta establezca un marco de políticas dedicado que defina claramente el contenido generado por IA y especifique las acciones a tomar al identificarlo. Esta política debe incluir el uso de advertencias o etiquetas informativas, fortalecer la moderación del contenido, mejorar las tecnologías de detección y mantener una comunicación transparente acerca de los riesgos de manipulación por IA. El desarrollo de dicha política es fundamental no solo para mantener la confianza de los usuarios, sino también para combatir problemas más amplios de desinformación social. El contenido falso generado por IA puede agravar tensiones geopolíticas, alimentar campañas de desinformación y socavar los procesos democráticos al difundir narrativas falsas con apariencia creíble. En respuesta, Meta ha reconocido estos desafíos e indicó que revisará y, si es necesario, revisará sus políticas de contenido para abordar mejor los medios generados por IA y fortalecer las medidas contra la desinformación. El incidente del video en Haifa sirve como un caso de estudio fundamental, demostrando cuán rápidamente puede propagarse en línea la desinformación impulsada por IA. Resalta la necesidad de que las empresas de redes sociales permanezcan vigilantes y actualicen continuamente sus políticas y tecnologías ante las amenazas digitales en evolución. A medida que el papel de la IA en la creación de contenido se amplía, plataformas como Meta tienen una responsabilidad cada vez mayor de gestionar y mitigar los riesgos asociados. Desarrollar e implementar políticas de contenido de IA claras y efectivas es un paso crucial para salvaguardar la exactitud y fiabilidad de la información en las redes sociales y proteger al público del engaño en la era digital.