Les avancées récentes dans l'intelligence artificielle (IA) ont entraîné des changements importants et des défis dans la manière dont la sécurité de l'IA est comprise et gérée, notamment aux États-Unis et au Royaume-Uni. Ces deux pays ont récemment souligné le cadrage de la sécurité de l'IA principalement comme une question de sécurité nationale, une évolution qui a suscité des débats au sein des secteurs technologique et politique. Ce nouveau cadre comporte des risques, selon la définition de la « sécurité », car se concentrer uniquement sur la sécurité pourrait faire négliger des enjeux éthiques essentiels tels que les biais, l'équité et l'inclusion dans les systèmes d'IA. Dans un mouvement organisationnel significatif, le Royaume-Uni a renommé son Institute for AI Safety en Institute for AI Security, marquant une transition d’une vision large de la sécurité — incluant les impacts éthiques et sociétaux — vers une orientation principalement axée sur les menaces sécuritaires. Par ailleurs, aux États-Unis, les initiatives en matière de sécurité de l'IA rencontrent des difficultés ; le U. S. AI Safety Institute aurait été confronté à des réductions possibles de ses effectifs, soulevant des préoccupations quant aux priorités fédérales en matière de sécurité de l'IA. Parallèlement, Microsoft a intenté une action en justice contre des développeurs dans plusieurs pays accusés de contourner les protections de l’IA. Ces développeurs ont exploité des systèmes d’IA pour produire du contenu nuisible, notamment des images intimes non consensuelles, mettant en lumière les défis réglementaires persistants liés à la gestion du contenu généré par l’IA et à la protection des utilisateurs. Ces évolutions s’inscrivent dans un contexte de réductions plus générales des effectifs dans la cybersécurité au sein du gouvernement américain, ce qui pourrait considérablement affecter la capacité du pays à attirer et à retenir des spécialistes en cybersécurité qualifiés. La Cybersecurity and Infrastructure Security Agency (CISA), chargée de la sécurisation des réseaux gouvernementaux et des infrastructures critiques, a supprimé plus de 130 postes lors de récents ajustements dans l’administration, ce qui pourrait fragiliser la résilience cybernétique du pays face à des menaces de plus en plus sophistiquées. Les actualités industrielles incluent aussi DeepSeek, une entreprise spécialisée en technologies d’IA, qui étend ses capacités de modèles d’IA en Chine, illustrant la poursuite des avancées et de la compétition internationales dans le développement de l’IA. De plus, de grandes activités criminelles en cybersécurité continuent de peser sur les efforts mondiaux.

Le FBI a relié plusieurs vols de cryptomonnaies récents à des acteurs nord-coréens, soulignant la menace constante que représente la cybercriminalité soutenue par des États. Des opérations d’arnaque utilisant le service Internet par satellite Starlink ont également été découvertes, illustrant comment de nouvelles technologies sont exploitées par les cybercriminels. Dans l’ensemble, ces tendances révèlent un environnement d’IA et de cybersécurité complexe et en constante évolution. Bien qu’il soit compréhensible de prioriser la sécurité de l’IA comme un enjeu de sécurité nationale, il est essentiel d’adopter une approche équilibrée afin de ne pas négliger les considérations éthiques cruciales pour un développement et une déploiement responsables de l’IA. Les réductions de personnel dans les agences de cybersécurité exposent une vulnérabilité majeure à un moment où les menaces cybernétiques croissent en fréquence et en sophistication. Il est indispensable que les gouvernements et le secteur privé maintiennent un soutien solide pour les programmes de sécurité de l’IA et la capacité des forces en cybersécurité afin de faire face efficacement à ces risques émergents. Alors que la technologie de l’IA progresse rapidement, accompagnée de préoccupations croissantes concernant le mauvais usage et la diffusion de contenus nuisibles, les cadres législatifs et réglementaires doivent également évoluer. La poursuite par Microsoft de ses actions contre les développeurs contournant les mesures de sécurité de l’IA montre l’engagement proactif du secteur privé, tout en soulignant les défis persistants pour la sécurisation des systèmes d’IA. En résumé, l’évolution du paysage de la sécurité de l’IA et de la cybersécurité met en évidence des axes prioritaires pour l’action. Il est crucial de trouver un équilibre efficace entre les priorités sécuritaires et les impératifs éthiques, de préserver une main-d'œuvre compétente en cybersécurité, et de favoriser la coopération internationale et la réglementation pour naviguer les risques et opportunités offerts par l’IA avancée et les technologies numériques. Les développements aux États-Unis, au Royaume-Uni et dans le monde, ainsi que les incidents cybernétiques, soulignent la nécessité d’approches vigilantes et globales en matière de sécurité et de sûreté de l’IA à l’avenir.