Kevin Mandia, fondateur de la célèbre entreprise de cybersécurité Mandiant, a lancé un avertissement sérieux concernant l'avenir des menaces cybernétiques. Il prévoit que les cyberattaques assistées par l'intelligence artificielle pourraient devenir une véritable réalité d'ici un an. Mandia explique que de telles attaques représenteraient de grands défis pour les experts en cybersécurité, car les attaquants pourraient utiliser des outils d'IA pour réaliser des violations sophistiquées avec peu de chances d'être détectés ou tracés. L'idée de menaces cybernétiques activées par l'IA inquiète la communauté de la sécurité depuis plusieurs années, mais la progression rapide et l'adoption généralisée des technologies d'IA générative ont considérablement intensifié ces préoccupations. Les systèmes d'IA générative peuvent créer du contenu original, tel que du texte, des images et des scripts complexes, qui peut être exploité pour rendre les cyberattaques plus flexibles et adaptatives. Mandia souligne que la principale source de ces cyberattaques alimentées par l'IA serait des organisations criminelles plutôt que des États-nations. Cette distinction est importante puisque les groupes criminels, souvent motivés par le gain financier, tendent à adopter rapidement de nouvelles technologies à des fins illicites, tandis que les États-nations ont généralement des objectifs stratégiques ou politiques. Fait intéressant, Mandia note que les modèles d'IA proposés par des entreprises comme OpenAI et Anthropic sont peu susceptibles d'être utilisés directement à des fins malveillantes en raison des verrouillages et restrictions intégrés visant à prévenir les abus. Néanmoins, le paysage de la cybersécurité reste risqué car il existe des outils d'IA moins réglementés ou en open source que les acteurs malveillants pourraient exploiter. Pour étayer cette perspective, Chester Wisniewski, un expert en cybersécurité respecté chez Sophos, considère que bien que les attaquants disposent peut-être déjà des moyens techniques pour utiliser l'IA dans leurs attaques, l'incitation à le faire reste limitée pour le moment.

Ce retard peut s'expliquer par les difficultés à intégrer l'IA dans les méthodes d'attaque existantes et par le manque d'expertise chez les criminels pour exploiter une technologie aussi avancée. Pour illustrer comment la cybercriminalité évolue avec la technologie, Mandia évoque une affaire emblématique de 2001 impliquant des hackers russes qui ont automatisé des schemes de fraude en ligne, augmentant considérablement leur portée et leur efficacité. Cet exemple met en lumière comment les cybercriminels ont historiquement adapté des technologies émergentes pour renforcer leurs opérations et suggère que l'IA pourrait suivre une voie similaire. Malgré ces menaces émergentes, les professionnels de la cybersécurité restent optimistes avec prudence quant au potentiel de l'IA pour renforcer les mesures de défense. Les mêmes technologies d'IA qui pourraient être détournées sont aussi utilisées pour améliorer la détection des menaces, automatiser les réponses et renforcer la résilience des infrastructures réseau. La capacité de l'IA à analyser rapidement de grandes quantités de données et à repérer les anomalies offre des opportunités prometteuses pour anticiper les attaques et en réduire l'impact. En conclusion, le domaine de la cybersécurité se trouve à un carrefour critique où l'IA constitue à la fois une menace sérieuse et un atout puissant. Les avertissements de leaders comme Kevin Mandia sont des appels urgents à l'action, invitant les organisations et les gouvernements à investir de manière proactive dans des solutions de sécurité basées sur l'IA tout en restant vigilants face à des menaces cybernétiques de plus en plus sophistiquées. À mesure que l'IA continue de progresser, les stratégies pour prévenir son mauvais usage doivent également évoluer, afin de garantir un environnement numérique plus sûr pour tous.