L'intelligence artificielle a connu des avancées significatives récemment, transformant des domaines tels que la communication, le divertissement et la sécurité. Cependant, comme toute technologie puissante, l’usage abusif de l’IA pose de graves enjeux. Parmi les préoccupations majeures, on trouve l’exploitation par des escrocs des applications vidéo basées sur l’IA pour réaliser des fraudes sophistiquées et des opérations d’imitation, signalant une évolution préoccupante de la cybercriminalité qui alarme les experts en sécurité à l’échelle mondiale. Un exemple récent est la sortie de l’application iOS Sora d’OpenAI, qui utilise un modèle avancé de génération vidéo pour permettre aux utilisateurs de créer facilement des vidéos générées par IA, d’une grande réalisme. Malgré cette innovation, Sora intègre une fonctionnalité controversée qui supprime les filigranes – des marques intégrées dans le contenu créé par IA pour l’identifier comme artificiel. Cette suppression complique la distinction entre contenu réel et deepfakes, augmentant le risque d’induire en erreur. Les experts mettent en garde contre le fait que ces outils pourraient aggraver un problème déjà croissant. Les escroqueries par impersonation augmentaient même avant l’émergence de générateurs vidéo IA accessibles, coûtant aux individus et aux organisations de fortes sommes et érodant la confiance dans la communication numérique. Désormais, les escrocs peuvent utiliser des manipulations avancées de vidéos et d’audios pour produire des deepfakes extrêmement convaincants imitant le visage et la voix de personnes réelles. De telles falsifications peuvent imiter des dirigeants, des responsables, des célébrités ou des particuliers afin de faciliter la fraude, la désinformation, le vol d’identité et l’extorsion. Pour lutter contre cela, des plateformes comme Meta AI restreignent certaines fonctionnalités – par exemple, en évitant le clonage vocal pour limiter les risques d’imitation. Néanmoins, de nombreuses applications d’IA continuent d’offrir des capacités étendues de clonage vocal et facial, augmentant la portée et l’efficacité potentielles des tromperies. Ces fonctionnalités brouillent particulièrement la frontière entre médias authentiques et fabriqués, compliquant leur détection même pour des experts dépourvus d’outils spécialisés. Les sociétés de sécurité telles que GetReal Security et Sophos soulignent la menace large et croissante que représentent les escroqueries alimentées par l’IA.

Leurs recherches révèlent une tendance à la hausse dans la fraude utilisant des vidéos et des audios générés par IA, ciblant souvent des entreprises et des personnalités importantes. Elles mettent en garde contre le fait qu’à mesure que la technologie IA évolue rapidement, les mesures de sécurité traditionnelles peuvent devenir insuffisantes, nécessitant des stratégies proactives telles que des algorithmes de détection avancés et une formation approfondie à la littératie numérique pour réduire les risques. Fait intéressant, OpenAI indique que son outil ChatGPT, largement utilisé, a davantage aidé à la détection d'escroqueries qu’à leur commission, illustrant le double rôle de l’IA : tout en permettant à de nouveaux acteurs malveillants de commettre des actes frauduleux, elle renforce également la capacité des défenseurs à repérer la tromperie. Cependant, la montée en puissance et l’automatisation de la fraude alimentées par l’IA restent des enjeux majeurs. La capacité à produire en masse des deepfakes convaincants avec un minimum d’effort pourrait entraîner une augmentation des escroqueries si les contre-mesures ne suivent pas le rythme. Cette situation montre que l’humanité en est encore aux premiers stades de développement de l’IA. À mesure que ces technologies évolueront, trouver un équilibre entre leurs utilisations bénéfiques et leur exploitation malveillante sera un défi complexe et dynamique. La vigilance des développeurs, des professionnels de la sécurité, des décideurs et du public est essentielle. Un développement éthique, des pratiques transparentes et des protocoles de sécurité solides sont indispensables pour minimiser les risques tout en maximisant les bénéfices sociétaux de l’IA. En résumé, des applications comme Sora d’OpenAI illustrent à la fois le progrès technologique prometteur et les défis importants en matière de sécurité numérique. À mesure que les outils vidéo générés par IA deviennent plus accessibles et sophistiqués, leur mauvais usage dans des escroqueries et des schemes d’imitation augmente considérablement. Résoudre ces problématiques nécessite une approche multidimensionnelle comprenant l’innovation technologique, la régulation, l’éducation et la collaboration. Grâce à une sensibilisation accrue et une préparation adaptée, la société pourra mieux naviguer dans ce paysage de cybersécurité émergent et protéger les individus comme les organisations contre des fraudes alimentées par l’IA de plus en plus convaincantes.