Entretien Avant que l'IA ne devienne courante dans les entreprises, les dirigeants doivent s’engager dans un régime de test de sécurité continu, adapté aux nuances spécifiques des modèles d’IA. Ce point de vue provient de Danny Coleman, PDG de Chatterbox Labs, et Stuart Battersby, directeur technique, qui ont longuement expliqué à The Register pourquoi les entreprises sont jusqu’à présent lentes à passer des programmes pilotes d’IA à une mise en production complète. « L’adoption dans les entreprises ne représente qu’environ 10 % aujourd’hui », a déclaré Coleman. « Selon McKinsey, il s’agit d’un marché de quatre mille milliards de dollars. Comment pourrez-vous progresser si vous continuez à lancer des solutions que les gens ne savent pas être sûres à utiliser, ou s’ils ne sont pas conscients non seulement de l’impact sur l’entreprise, mais aussi de l’impact sociétal ?» Il a ajouté : « Les personnes à l’intérieur des entreprises ne sont pas encore tout à fait prêtes pour cette technologie sans une gouvernance et une sécurité appropriées. » En janvier, le cabinet de conseil McKinsey a publié un rapport examinant le potentiel inexploité de l’intelligence artificielle (IA) sur le lieu de travail. Le rapport, intitulé « Superagency au travail : donner aux personnes les moyens de libérer le plein potentiel de l’IA », a souligné l’intérêt croissant et l’investissement dans les technologies d’IA, tout en notant que le rythme de leur adoption demeure lent. « …ce qu’il faut faire, c’est ne pas se fier à la rhétorique de l’un ou l’autre fournisseur ou fournisseur de garde-fous, car tout le monde vous dira que c’est super sûr et sécurisé. » « Les leaders veulent augmenter leurs investissements en IA et accélérer le développement, mais ils ont du mal à garantir que l’IA est sûre sur le lieu de travail », indique le rapport de McKinsey. Coleman affirme que la cybersécurité traditionnelle et la sécurité de l’IA sont des domaines croisés, mais que la plupart des équipes de sécurité de l’information n’ont pas encore rattrapé leur retard et manquent souvent de l’expertise nécessaire pour comprendre les surfaces d’attaque spécifiques à l’IA.

Il a cité l’acquisition de Robust Intelligence par Cisco et l’achat de Protect AI par Palo Alto Networks comme des exemples d’entreprises adoptant les bonnes stratégies. Battersby a souligné que les organisations visant à déployer l’IA à grande échelle doivent mettre en place un régime de tests continus basé sur ce que le service d’IA réalise réellement. « La première étape consiste à définir ce que cela signifie être sûr et sécurisé pour votre cas d’utilisation spécifique », a-t-il expliqué. « Ensuite, il faut éviter de se fier uniquement aux affirmations du fournisseur de modèle ou du fournisseur de garde-fous, car tout le monde affirme que leurs solutions sont extrêmement sûres. » Cette prudence est vitale, a insisté Battersby, car même les utilisateurs autorisés d’un système d’IA peuvent provoquer un comportement nuisible. « Ce que nous voulons faire comprendre, c’est que les filtres de sécurité de contenu et les garde-fous seuls ne suffisent pas », a déclaré Coleman. « Cela ne changera pas de sitôt. La solution doit être beaucoup plus multilayer. » Même si cette approche peut entraîner des coûts, Battersby soutient que les tests continus peuvent réduire les dépenses en montrant, par exemple, que des modèles plus petits et moins coûteux sont toujours sûrs pour certains cas d’utilisation. L’intégralité de l’entretien se poursuit ci-dessous…