Un estudio reciente de NewsGuard reveló deficiencias notables en algunos de los principales chatbots de IA del mundo cuando se trata de detectar contenido de video generado por inteligencia artificial. La investigación mostró que los principales agentes conversacionales de IA, incluyendo ChatGPT de OpenAI, Grok de xAI y Gemini de Google, a menudo no logran reconocer videos producidos por inteligencia artificial, especialmente si estos videos carecen de marcas claras. El estudio consistió en pruebas exhaustivas de las reacciones de los chatbots ante videos creados por IA sin marcas de agua que indicaran su naturaleza sintética. Los resultados fueron sorprendentes: en la mayoría de los casos—rango que va desde el 78% hasta el 95%—los chatbots no identificaron correctamente los videos como generados por IA. Esto implica que, al ser cuestionados sobre la naturaleza de dichos videos, estos sistemas de IA los trataban frecuentemente como contenido auténtico, creado por humanos, a pesar de su origen artificial. Incluso cuando existían marcas de agua que señalaban que los videos eran generados por IA, dos de los tres chatbots—ChatGPT y Grok—aún así fallaban en detectar estos indicadores de manera consistente. Clasificaban de manera incorrecta una proporción significativa de videos con marcas de agua, revelando debilidades persistentes en las capacidades actuales de detección de los IA conversacionales. Gemini de Google tuvo un desempeño algo mejor, pero también enfrentó dificultades bajo ciertas condiciones de prueba. Estos resultados son especialmente relevantes dado el creciente uso de contenido multimedia generado por IA en línea, lo que desafía los esfuerzos en moderación de contenidos, prevención de desinformación y verificación de la autenticidad de medios digitales. La incapacidad de los chatbots de IA para detectar de manera confiable videos sintéticos genera preocupación por su posible engaño o por propagar involuntariamente material no verificado.

Expertos en criminalística digital e integridad mediática subrayan la necesidad urgente de mejorar las técnicas de detección para mantenerse al día con los avances en la creación de videos por IA. Argumentan que las mejoras son necesarias no solo en los algoritmos de los chatbots, sino en todo el panorama de herramientas de verificación de contenido digital. Este problema resalta un desafío societal más amplio en la gestión y mitigación de los efectos del medio sintético—comúnmente llamados deepfakes—que pueden ser mal utilizados para desinformar, cometer fraudes y socavar la confianza en las comunicaciones digitales. La investigación pide una mayor colaboración entre desarrolladores de IA, profesionales de ciberseguridad y organismos reguladores para desarrollar marcadores estandarizados y protocolos de detección que puedan adoptarse de manera universal. Tales medidas promoverían etiquetas transparentes en el contenido generado por IA y capacitarían a las plataformas digitales para abordar los riesgos asociados con videos sintéticos. Además, la formación continua para usuarios y moderadores de contenido es fundamental para que puedan identificar mejor el contenido producido por IA, reduciendo así los riesgos de manipulación. En resumen, el estudio de NewsGuard expone una falla crítica en la tecnología actual de IA. A medida que el contenido sintético crece en complejidad y accesibilidad, mejorar la capacidad de los chatbots de IA para identificar con precisión videos generados por IA es esencial para proteger la integridad de la información. Abordar estos desafíos es clave para fomentar entornos digitales confiables y garantizar un uso responsable de la inteligencia artificial en la creación y distribución de medios.