Le Centre national de cybersécurité du Royaume-Uni (NCSC) a récemment publié des recommandations sur la gestion des risques cyber liés à l’IA agentique. Alors que le document est présenté comme un avis provisoire dans l’attente de l’élaboration de recommandations plus formelles, cette présentation reflète l’état actuel du secteur : les organisations déploient déjà des agents dans des environnements de production, tandis que les normes, les contrôles et les modèles opérationnels des systèmes autonomes restent encore indéterminés. La gouvernance évolue au rythme de l’adoption plutôt que de l’anticiper : une réalité qui souligne l’importance de contrôles rigoureux.
Les recommandations du NCSC préconisent d’adapter les mesures de contrôle au niveau d’autonomie d’un agent, d’attribuer des identités distinctes, de limiter les autorisations, de restreindre l’accès aux systèmes et aux données, de surveiller l’activité, de maintenir une supervision humaine et de préserver la capacité d’intervenir lorsque cela est nécessaire. La plupart de ces recommandations sembleront familières aux équipes de sécurité. La difficulté ne tient pas à la nouveauté des mesures de contrôle. Elle réside dans le type de système que ces mesures doivent désormais régir.
Le passage de la sécurité des modèles à la sécurité des agents
Depuis plusieurs années, les discussions sur la sécurité de l’IA se sont largement concentrées sur les modèles. Un modèle peut-il être manipulé ? Jailbreaké ? Digne de confiance ? Peut-il divulguer des informations qu’il ne devrait pas ? Ces questions demeurent importantes, mais elles ne représentent qu’une partie du problème. Un modèle qui génère du texte, c’est une chose. Un système connecté aux identités, aux applications, aux outils, aux flux de travail, et aux données métier en est une autre.
La différence devient plus évidente lorsqu’on compare un chatbot qui répond à des questions à un agent capable de récupérer des dossiers clients, de mettre à jour des tickets, d’invoquer des outils, de déclencher des workflows, et d’interagir avec des systèmes externes. Le modèle sous-jacent peut être identique. Son accès, lui, ne l’est pas. La question de sécurité commence à passer de ce que le modèle sait à ce que le système peut faire.
Le même thème apparaît dans la déclaration des Five Eyes publiée plus tôt cette année, décrivant l’IA comme un multiplicateur de force qui accélère à la fois les opérations cyber offensives et défensives. Les recommandations du NCSC explorent ce à quoi ressemble cette réalité lorsque des systèmes autonomes commencent à fonctionner au sein des environnements d’entreprise.
Sécuriser les agents IA en fonctionnement
Le NCSC consacre relativement peu de temps à débattre du comportement des modèles et beaucoup plus à discuter de l’identité, des autorisations, de la surveillance, de la supervision, du confinement et de la réponse aux incidents. Les agents sont considérés comme des participants au sein d’un environnement, plutôt que comme des éléments technologiques isolés.
Cela correspond dans les grandes lignes à la manière dont nous abordons le problème chez Darktrace.
Un agent ne doit pas être considéré comme une extension d’un compte utilisateur. Il développe ses propres schémas comportementaux. Il accède aux systèmes, interagit avec les données, invoque des outils et passe d’un flux de travail à l’autre de manière à pouvoir être observé indépendamment. Comprendre ce qu’un agent est autorisé à faire est important. Comprendre comment il se comporte réellement une fois déployé, et si ce comportement est conforme aux objectifs métier, est tout aussi important.
L’identité en fournit un exemple évident. Le NCSC recommande d’attribuer des identités distinctes aux agents plutôt que de les laisser se fondre dans les comptes d’utilisateurs ou de service environnants. Plus important encore, l’attribution d’identités distinctes aux agents permet une surveillance comportementale indépendante.
Hypothèses de développement vs. comportement dans le monde réel
Le même principe s’applique à la surveillance. Les recommandations du NCSC inscrivent l’activité des agents dans les opérations de sécurité courantes, plutôt que de la traiter comme une fonction distincte de gouvernance de l’IA. Bon nombre des contrôles décrits sont mis en place avant qu’un agent ne commence à fonctionner. La mise en bac à sable, la conception des identifiants d’authentification, les flux de travail d’approbation et la supervision humaine reflètent tous des jugements sur le comportement attendu du système et les risques qu’il est susceptible de créer.
L’usage réel peut remettre en question ces hypothèses. Les modes d’accès changent. Les flux de travail s’étendent. Les systèmes commencent à interagir avec des ressources qu’ils n’ont encore jamais utilisées. Les processus qui semblaient raisonnables lors de la conception se comportent différemment en production. Les exigences en matière de supervision humaine pourraient s’avérer excessives ou insuffisantes une fois le système opérationnel à grande échelle et dans le contexte de processus métier propres à chaque entreprise.
La déclaration des Five Eyes souligne un problème similaire : les organisations doivent pouvoir avoir confiance dans le fait que les contrôles continuent de fonctionner comme prévu lorsque les systèmes sont exposés à de véritables utilisateurs, à des données, à des outils, et à des contraintes opérationnelles. Souvent, la question n’est pas de savoir si un agent est techniquement autorisé à effectuer une action, mais si son comportement reste conforme au rôle qu’il était censé jouer.
La surveillance et la gouvernance des agents IA vont de pair
C’est précisément pour cette raison que la surveillance et la gouvernance doivent être considérées comme faisant partie d’un même processus. La gouvernance définit les paramètres initiaux du déploiement, tandis que la surveillance fournit des éléments permettant de déterminer si ces paramètres restent appropriés. Ces éléments devraient ensuite éclairer les modifications à apporter aux autorisations, aux mesures de contrôle et à la supervision.
Cela revêt une importance croissante à mesure que les systèmes autonomes sont intégrés aux processus métier. Le risque en question est déterminé non seulement par le modèle ou l’agent lui-même, mais aussi par ce à quoi il peut accéder, les actions qu’il peut entreprendre et la manière dont son comportement évolue en pratique.
Développer une supervision continue du comportement des agents IA
Le constat est clair : la gouvernance ne peut pas s’arrêter au déploiement. Les organisations ont besoin d’un moyen de comprendre comment les agents se comportent après leur déploiement, de tester si les contrôles restent appropriés, et de les ajuster à mesure que les conditions évoluent. Cela nécessite une visibilité non seulement sur l’activité technique, mais aussi sur la question de savoir si cette activité est cohérente dans le contexte du processus métier que l’agent est censé prendre en charge.
C’est là que la sécurité comportementale centrée sur l’entreprise peut devenir essentielle. Le risque ne provient pas du modèle lui-même : il découle des actions qu’un système autonome entreprend au sein de l’entreprise et des conséquences en aval de ces actions.
Un agent peut fonctionner exactement comme prévu et néanmoins présenter un risque s’il accède à des informations sensibles dans un contexte inattendu, utilise ses droits d’accès d’une manière qui entraîne une exposition involontaire, ou influence des processus métier d’une manière qui n’avait pas été anticipée lors de la conception et de l’examen.
Gouvernance traditionnelle vs. sécurité comportementale
Les cadres de gouvernance traditionnels offrent une assurance à un instant précis. La sécurité comportementale peut offrir une visibilité continue sur la manière dont les systèmes autonomes interagissent avec l’organisation qu’ils sont censés servir. Plutôt que de se concentrer exclusivement sur les performances des modèles ou sur la conformité aux politiques, les organisations doivent déterminer si le comportement d’un agent concorde avec les objectifs métier, les attentes opérationnelles et les tolérances au risque acceptables à mesure que les conditions évoluent.
À mesure que les entreprises passent de déploiements d’IA isolés à des écosystèmes interconnectés d’agents, la visibilité sur le comportement devient aussi importante que celle sur le code. La gouvernance détermine ce qu’un système autonome est autorisé à faire. L’analyse comportementale aide à déterminer ce qu’il fait, quels résultats métier il produit et si ces résultats restent alignés sur les objectifs de l’organisation.
[related-resource]
Sécurisez votre adoption de l’IA
Conseils pratiques pour sécuriser déploiements LLM, flux intégrant l’IA et systèmes d’agents, avec contrôles de gestion des risques liés à l’IA.




















