Meta, la société mère de Facebook et Instagram, est une fois de plus sous le feu des projecteurs pour sa gestion du contenu généré par intelligence artificielle sur ses plateformes. Le Conseil de contrôle indépendant de l'entreprise a fortement recommandé à Meta d'élaborer une politique complète et spécifique consacrée au contenu lié à l'IA. Cette demande intervient après un incident majeur où une fausse vidéo créée par l’IA représentant des bâtiments endommagés à Haifa lors d’un conflit Israël-Iran prévu pour 2025 a rapidement circulé, induisant en erreur les spectateurs. La vidéo a accumulé plus de 700 000 vues avant que le Conseil de contrôle n’intervienne. Le Conseil a critiqué Meta pour ne pas avoir apposé un avertissement clair et visible sur la vidéo, ce qui aurait permis d’alerter les utilisateurs sur sa nature fausse. De plus, Meta n’a pas réussi à limiter ou supprimer de manière adéquate ce contenu trompeur, malgré les signalements des utilisateurs et la reconnaissance de sa fausseté. La décision formelle du Conseil a mis en lumière d’importants manquements dans les politiques actuelles de Meta concernant le contenu généré par l’IA et a souligné que cet incident reflète un défi mondial : la propagation rapide de médias trompeurs produits par l’IA pouvant tromper des millions de personnes et inciter à l’agitation. Les avancées technologiques de l’IA permettent désormais de créer des images et vidéos extrêmement réalistes mais totalement fictives, représentant une menace critique pour l’intégrité de l’information sur les réseaux sociaux, où les visuels influencent souvent rapidement et largement l’opinion publique. En tant que l’une des plus grandes plateformes mondiales, Meta joue un rôle clé dans la diffusion de l’information et porte une responsabilité importante quant à la nécessité de signaler, d’étiqueter ou de supprimer le contenu généré par l’IA afin de lutter contre la désinformation. Cet incident révèle que les mesures existantes sont insuffisantes, soulignant l’urgence de mettre en place des protocoles et des outils mis à jour, adaptés aux défis spécifiques posés par l’IA.

Le Conseil de contrôle recommande à Meta d’établir un cadre politique dédié, définissant clairement ce qu’est le contenu généré par l’IA et précisant les actions à prendre lorsqu’il est identifié. Cette politique devrait obliger à une divulgation ou à l’apposition d’un avertissement, renforcer la modération des contenus, améliorer les technologies de détection, et maintenir une communication transparente sur les risques liés à la manipulation par l’IA. Le développement de telles politiques est essentiel non seulement pour maintenir la confiance des utilisateurs, mais aussi pour lutter contre les problématiques de désinformation à l’échelle sociétale. Le contenu falsifié par l’IA peut exacerber les tensions géopolitiques, alimenter les campagnes de désinformation et saper les processus démocratiques en diffusant de fausses narrations crédibles. En réponse, Meta a reconnu ces défis et a indiqué son intention de revoir et éventuellement de réviser ses politiques de contenu afin de mieux traiter le média généré par l’IA et de renforcer la lutte contre la désinformation. L’incident de la vidéo à Haifa constitue une étude de cas centrale illustrant la rapidité avec laquelle la désinformation alimentée par l’IA peut se propager en ligne. Il souligne la nécessité pour les entreprises de réseaux sociaux de rester vigilantes et de continuer à mettre à jour leurs politiques et leurs technologies face à l’évolution des menaces numériques. Alors que le rôle de l’IA dans la création de contenu s’amplifie, des plateformes comme Meta ont une responsabilité grandissante dans la gestion et la réduction des risques associés. La mise en place de politiques claires et efficaces concernant le contenu généré par l’IA constitue une étape essentielle pour garantir la véracité et la fiabilité des informations sur les réseaux sociaux et protéger le public contre la tromperie à l’ère numérique.