Une étude récente de NewsGuard a révélé d'importantes lacunes chez certains des principaux chatbots d'IA mondiaux en ce qui concerne la détection de vidéos générées par intelligence artificielle. La recherche a montré que les grands agents conversationnels IA, dont ChatGPT d’OpenAI, Grok de xAI, et Gemini de Google, échouaient souvent à reconnaître les vidéos produites par IA, notamment lorsque ces vidéos ne portaient pas de marquages clairs. L’étude a consisté en des tests approfondis des réactions des chatbots face à des vidéos générées par IA sans filigranes indiquant leur nature synthétique. Les résultats ont été frappants : dans la majorité des cas— allant de 78 % à jusqu’à 95 %—les chatbots ne parvenaient pas à identifier correctement ces vidéos comme étant créées par IA. Cela implique que, lorsqu’on leur posait des questions sur la nature de ces vidéos, ces systèmes d’IA les considéraient fréquemment comme du contenu authentique, humainement créé, malgré leur origine artificielle. Même lorsque des filigranes étaient présents pour signaler que les vidéos étaient générées par IA, deux des trois chatbots—ChatGPT et Grok—échouaient encore souvent à détecter ces indicateurs de manière fiable. Ils classaient à tort une part importante de ces vidéos marquantes, révélant des faiblesses persistantes dans leurs capacités actuelles de détection de l’IA conversationnelle. Gemini de Google obtenait de meilleurs résultats, mais rencontrait également des difficultés dans certains tests. Ces résultats sont particulièrement préoccupants dans un contexte où la présence de contenus multimédia générés par IA s’accroît en ligne, ce qui complique les efforts de modération de contenus, de lutte contre la désinformation et de vérification de l’authenticité des médias numériques. L’incapacité des chatbots d’IA à repérer de manière fiable des vidéos synthétiques soulève des inquiétudes quant à leur potentiel à être induits en erreur ou à propager involontairement du contenu non vérifié.

Les experts en criminalistique numérique et en intégrité des médias insistent sur la nécessité urgente d’améliorer les techniques de détection pour suivre les progrès de la création vidéo par IA. Ils affirment que ces améliorations doivent intervenir non seulement au niveau des algorithmes des chatbots, mais aussi dans l’ensemble de l’écosystème des outils de vérification des contenus numériques. Ce problème souligne un défi sociétal plus large : celui de gérer et d’atténuer les effets des médias synthétiques—souvent appelés deepfakes—qui peuvent être détournés à des fins de désinformation, de fraude ou pour miner la confiance dans la communication digitale. La recherche appelle à une collaboration accrue entre les développeurs d’IA, les professionnels de la cybersécurité et les agences de régulation afin de développer des marqueurs standardisés et des protocoles de détection adoptables universellement. Ces mesures favoriseraient un étiquetage transparent des contenus générés par IA et permettraient aux plateformes numériques de mieux gérer les risques liés aux vidéos synthétiques. Par ailleurs, la formation continue des utilisateurs et des modérateurs de contenu est essentielle pour qu’ils puissent mieux reconnaître les contenus produits par IA, réduisant ainsi les risques de manipulation. En résumé, l’étude de NewsGuard met en évidence une défaillance cruciale de la technologie IA actuelle. À mesure que les médias synthétiques gagnent en complexité et en accessibilité, il devient indispensable de renforcer la capacité des chatbots d’IA à identifier précisément les vidéos générées artificiellement pour préserver l’intégrité de l’information. Relever ces défis est essentiel pour favoriser des environnements numériques de confiance et garantir une utilisation responsable de l’intelligence artificielle dans la création et la diffusion de médias.