根据NewsGuard最近的研究显示，当前一些全球领先的人工智能聊天机器人在识别由AI生成的视频内容方面存在明显缺陷。研究表明，包括OpenAI的ChatGPT、xAI的Grok以及Google的Gemini在内的主要AI会话代理，常常无法识别由人工智能制作的视频，尤其是在这些视频没有明显标记的情况下。该研究对这些聊天机器人在面对未经水印标示其合成性质的AI生成视频时的反应进行了全面测试，结果令人震惊：在大多数情况下——比例从78%到高达95%——这些聊天机器人都未能正确识别视频是由AI生成的。这意味着，当被问及这些视频的本质时，这些AI系统往往将其误认为是真实的、由人类创作的内容，尽管它们实际上是人工合成的。即使视频带有提示其为AI生成的水印，这三款聊天机器人中的两个——ChatGPT和Grok——仍然经常未能持续检测到这些标识，出现误判，显示出当前对话式AI检测能力的持续弱点。Google的Gemini表现略优，但在某些测试条件下也面临困难。鉴于AI生成的多媒体内容在网络上的日益普及，这一研究结果尤为重要，因为它关系到内容审核、虚假信息预防以及数字媒体真实性验证等关键领域。AI聊天机器人无法可靠地识别合成视频，令人担忧其可能被误导或无意间传播未经验证的内容。数字取证和媒体诚信领域的专家强调，亟需改进检测技术，以跟上AI视频生成技术的快速发展。他们认为，不仅需要提升聊天机器人的算法能力，还应在更广泛的数字内容验证工具层面进行改进。这个问题反映出社会在管理和减轻合成媒体（通常被称为深度伪造）带来的影响方面面临的更大挑战，这类技术可能被滥用来传播虚假信息、进行诈骗，甚至削弱公众对数字传播的信任。研究呼吁AI开发者、网络安全专家和监管机构加强合作，制定标准化的标记和检测协议，促使其被广泛采纳，从而实现对AI生成内容的透明标注，并帮助数字平台应对合成视频带来的风险。此外，持续进行用户和内容审核人员的教育也至关重要，以增强他们识别AI生成内容的能力，从而降低被操控的风险。总之，NewsGuard的研究揭示了当前AI技术的关键不足。随着合成媒体日益复杂和普及，提高AI聊天机器人准确识别AI生成视频的能力，是维护信息完整性的重要保障。应对这些挑战，对于打造可信赖的数字环境、促进人工智能在媒体创作与传播中的责任使用，具有重要意义。