La formation traditionnelle à la sensibilisation à la sécurité fait face à des défis à l'ère de l'avancée de l'intelligence artificielle (IA). Les menaces propulsées par l'IA, telles que le smishing, le vishing, les deepfakes et les attaques basées sur les chatbots IA, pourraient rendre la méthode traditionnelle centrée sur l'humain inefficace en matière de défense. Actuellement, la formation à la sensibilisation à la sécurité apprend aux individus à reconnaître les signes et les tactiques utilisés dans les attaques d'ingénierie sociale. Cependant, même les individus les mieux formés peuvent commettre des erreurs en raison du stress, de la fatigue et de la surcharge cognitive. À l'avenir, les attaques dirigées par l'IA auront accès à plus de données et à de meilleurs modèles de langage, rendant leurs interactions indiscernables des comportements humains.

Les attaques basées sur l'IA bénéficient déjà d'avantages, tels que la personnalisation transparente, l'adaptation en temps réel et la manipulation émotionnelle. À mesure que la technologie de l'IA évolue, l'avenir de la formation à la sensibilisation à la sécurité requiert une approche multifacette qui combine une intervention automatisée en temps réel, une meilleure transparence cybernétique, une détection de l'IA et une formation humaine. Elle devrait inclure l'enseignement aux individus pour reconnaître les interventions techniques de la marque ou de l'entreprise, adopter une meilleure transparence cybernétique et détecter l'IA et les agents d'IA interagissant avec les applications. En adaptant la formation à la sensibilisation à la sécurité, nous pouvons protéger les marques et les entreprises contre les tromperies alimentées par l'IA et garantir un avenir plus sûr. Tom Tovar est le PDG et co-créateur d'Appdome, une plateforme de défense automatisée et unifiée pour les applications mobiles. Il a une expérience juridique et apporte des conseils pratiques à partir de ses postes de direction dans des sociétés de cyber et de technologie.