Gouvernance des agents d'IA : un cadre pour les équipes d'entreprise

Introduction

En bref : la gouvernance des agents IA désigne l’ensemble des contrôles relatifs à l’identité, aux politiques, à la surveillance et à l’audit qui permettent de maintenir les agents autonomes dans des limites sécurisées. La gouvernance informatique traditionnelle a été conçue pour des logiciels suivant des règles fixes ; elle ne tient donc pas compte de la manière dont les agents prennent des décisions, invoquent des outils et accèdent aux données de leur propre chef. Ce guide explique ce qu’est la gouvernance des agents, les risques auxquels elle répond, ainsi qu’un cadre que vous pouvez mettre en place avant que les agents ne soient intégrés dans des flux de travail critiques.

Un agent IA peut lire un ticket, interroger trois systèmes internes, rédiger une réponse et mettre à jour un enregistrement sans qu’aucun humain n’intervienne à aucune étape. C’est précisément cette autonomie qui fait toute la différence. C’est également la raison pour laquelle la plupart des contrôles de gouvernance existants ne sont pas adaptés. Les règles d’accès partent du principe qu’une personne est à l’origine de chaque action, et les journaux d’audit partent du principe qu’il est possible de remonter jusqu’à cette personne. Les agents remettent en cause ces deux hypothèses.

La gouvernance des agents IA comble cette lacune. Elle attribue à chaque agent sa propre identité, définit ce que chacun est autorisé à faire, surveille ses actions réelles et enregistre suffisamment de détails pour répondre à d’éventuelles questions ultérieures. Nous allons voir à quoi cela ressemble concrètement, quels sont les risques spécifiques qu’elle doit couvrir et comment nous abordons cette question chez TrueFoundry.

Qu’est-ce que la gouvernance des agents IA ?

La gouvernance des agents IA est la discipline qui consiste à contrôler la manière dont les agents autonomes s’authentifient, les outils et les données auxquels ils ont accès, ainsi que la manière dont leurs actions sont surveillées et enregistrées. Elle traite un agent comme une entité à part entière, et non comme une extension de la personne qui l’a déployé.

Cette distinction est importante car les agents prennent des décisions de manière indépendante. Un agent de base de données peut disposer d’identifiants de lecture, mais la véritable question est de savoir s’il doit interroger une table contenant des enregistrements clients pour une requête donnée. La gouvernance permet de répondre à cette question au moment même où la requête est émise, plutôt que lors d’un examen plusieurs semaines plus tard. Sans elle, les équipes finissent par se fier au fait qu’un agent restera dans les limites autorisées simplement parce que rien n’a encore mal tourné.

Une bonne gouvernance doit également être pratique. Si les contrôles ralentissent les agents ou rendent leur déploiement difficile, les équipes les contournent, et vous vous retrouvez avec des agents non gérés, dont la politique de gouvernance n’existe que sur le papier.

Pourquoi le contrôle d’accès traditionnel ne suffit pas pour les agents

Le contrôle d’accès standard attribue des autorisations aux utilisateurs et consigne les actions associées à leurs comptes. Les agents brouillent ce modèle de trois façons.

L’attribution devient floue. Lorsqu’un agent agit, le journal indique généralement un compte de service, et non la personne qui a déclenché la requête ni la chaîne de raisonnement qui a conduit à l’action. Si un problème survient, vous pouvez voir qu’une requête a été exécutée, mais pas pourquoi ni pour le compte de qui.

L’accès aux outils se multiplie. Un seul agent peut accéder à des dizaines d’outils et de sources de données, chacun doté de son propre modèle d’autorisation. Cette surface d’exposition s’étend plus rapidement que ne peut le suivre n’importe quel processus manuel de définition de politiques, et c’est dans ces failles que surviennent les incidents.

Le comportement évolue. Les logiciels traditionnels renvoient le même résultat pour une même entrée. Ce n’est pas le cas des agents. Leurs réponses varient en fonction de l’historique des conversations, du contexte et des modifications apportées au modèle sous-jacent ; ainsi, un contrôle qui était sûr le mois dernier peut se comporter différemment aujourd’hui.

Aucun de ces cas n’est marginal. Il s’agit des conditions de fonctionnement normales des agents, c’est pourquoi la gouvernance doit être conçue spécialement pour eux plutôt que d’être calquée sur celle des anciens systèmes.

Les quatre piliers d’un cadre de gouvernance des agents

Un cadre viable repose sur quatre éléments qui se renforcent mutuellement.

L’identité prime. Chaque agent doit disposer de sa propre identité, assortie d’autorisations bien délimitées, distincte de celle des humains qui le créent ou l’invoquent. C’est ce qui rend tout le reste possible, car il est impossible d’appliquer des règles ou de réaliser des audits si l’on ne peut pas distinguer les agents les uns des autres.

L’application des politiques doit se faire au moment de l’exécution. La différence entre la surveillance et la gouvernance réside dans la capacité du système à bloquer une action non autorisée avant qu’elle ne soit exécutée, et non pas simplement à la signaler après coup. Un agent en lecture seule ne doit pas pouvoir écrire, et non pas simplement être signalé pour avoir tenté de le faire.

L’observabilité vous offre une visibilité en temps réel sur les activités des agents. Vous souhaitez détecter les anomalies, les violations de politiques et les appels à risque au moment où ils se produisent, afin de réagir aux signaux plutôt que de reconstituer les événements à partir de journaux incomplets.

La journalisation d’audit permet de retracer le parcours décisionnel. Chaque appel d’outil, chaque accès aux données et chaque réponse doit être enregistré avec son attribution et son contexte, sous une forme que vous pouvez transmettre à un auditeur ou à un intervenant en cas d’incident. C’est la différence entre affirmer qu’un agent s’est bien comporté et être en mesure de le prouver.

Les risques liés aux agents IA et comment les réduire

Les agents introduisent des risques que la sécurité classique des applications ne couvre pas entièrement. La gestion des risques liés à l’IA agentique commence par les identifier.

L’injection de prompt est le risque le plus médiatisé. Une entrée malveillante dissimulée dans le contenu d’un utilisateur ou dans une source de données externe peut pousser un agent à divulguer des données ou à effectuer des actions qu’il n’était pas censé effectuer. Les agents qui traitent du contenu non fiable sont les plus exposés.

L’exposition des identifiants arrive juste derrière. Les agents qui détiennent des clés API ou des jetons peuvent les divulguer dans les sorties ou les journaux, à moins que ces valeurs ne soient détectées et masquées en cours de traitement.

La fuite de données à caractère personnel (PII) se produit discrètement. Les données clients transitant par un agent peuvent apparaître dans un journal de conversation, un message d’erreur ou un appel en aval, sans que personne n’ait décidé qu’elles devaient y figurer.

L’autonomie excessive est le risque lié au fait de donner à un agent plus de pouvoirs que nécessaire. Un agent de code disposant d’un accès en écriture aux référentiels de production présente un risque que l’accès en lecture seule éliminerait entièrement. La solution réside dans la limitation du périmètre : n’accorder à chaque agent que le minimum dont il a besoin, et rien de plus.

La réduction de ces risques nécessite une combinaison de contrôles. Inspectez les entrées et les sorties à la recherche d’identifiants, de données à caractère personnel et de contenus interdits avant qu’ils ne franchissent une limite. Établissez une liste blanche des outils spécifiques que chaque agent est autorisé à appeler, plutôt que d’adopter une politique d’autorisation par défaut. Définissez des seuils d’escalade afin que les décisions à haut risque soient transmises à un humain, et ajustez ces seuils en fonction de ce que vous observez réellement en production.

Identité par agent et identifiants à portée limitée

Les comptes de service partagés constituent le raccourci le plus courant, et ce sont eux qui causent le plus de problèmes. Lorsque plusieurs agents partagent un même jeu d’identifiants, il devient impossible de déterminer quel agent a effectué quelle action. Une compromission de ce compte affecte tous les agents qui l’utilisent, et pas seulement celui qui a été piraté. De plus, chaque agent hérite de l’ensemble complet des autorisations du compte partagé, au lieu d’un périmètre adapté à sa mission.

L’identité par agent résout ces trois problèmes. Chaque agent déployé dispose de ses propres identifiants, qui peuvent être renouvelés et révoqués individuellement, de droits reflétant sa finalité et d’une piste d’audit claire. C’est également l’antidote à la prolifération des agents, cette situation où les équipes déploient des agents plus vite que quiconque ne peut les suivre. Lorsque chaque agent possède une identité enregistrée, cette prolifération devient visible au lieu d’être invisible, et vous pouvez la gérer.

La gestion des identités des agents nécessite des abstractions différentes de celles de la gestion des utilisateurs. Les agents ont besoin d’identités persistantes qui survivent à une session unique, d’identifiants renouvelés indépendamment, et de périmètres liés à ce que fait l’agent plutôt qu’à la personne qui l’a créé.

Conformité et préparation à l’audit

La réglementation rattrape son retard sur les systèmes autonomes, et des référentiels tels que SOC 2, HIPAA et le RGPD imposent déjà des obligations auxquelles les déploiements d’agents doivent se conformer. L’exigence pratique est une infrastructure capable de produire des preuves de manière autonome, plutôt qu’une documentation assemblée manuellement par quelqu’un avant un audit.

Cela implique des pistes d’audit exhaustives, où chaque action d’un agent est consignée avec l’attribution, l’horodatage et le contexte. Cela implique des enregistrements immuables qui ne peuvent pas être modifiés a posteriori. Cela implique une durée de conservation conforme aux règles applicables à vos types d’enregistrements et à vos juridictions, ainsi que la possibilité d’exporter les journaux vers les outils de sécurité que votre équipe utilise déjà.

Pour les équipes soumises à une réglementation, l’endroit où les agents s’exécutent est tout aussi important que la manière dont ils sont gérés. L’exécution des agents au sein de votre propre VPC, sur site ou dans un environnement isolé (air-gapped) permet de conserver les données sensibles à l’intérieur de vos limites, tout en appliquant les mêmes contrôles d’identité, de politique et de journalisation.

L’approche de TrueFoundry en matière de gouvernance des agents

Nous avons conçu notre plateforme de manière à ce que la gouvernance fasse partie intégrante du fonctionnement des agents, et non une couche ajoutée a posteriori. L’Agent Gateway attribue à chaque agent sa propre identité avec des identifiants à portée limitée et renouvelables, de sorte que les actions soient attribuables et que les autorisations correspondent à la mission de l’agent plutôt qu’aux droits d’accès de son créateur.

L’accès aux outils passe par le même plan de contrôle. Les agents accèdent aux outils et aux données via le MCP grâce à OAuth2, au RBAC et à des politiques de métadonnées appliquées à chaque appel d’outil, ce qui vous permet d’autoriser une lecture de base de données tout en bloquant une écriture. Des garde-fous inspectent les requêtes et les réponses à la recherche d’informations personnelles identifiables (PII) et d’autres contenus interdits, tant au niveau des entrées que des sorties, et chaque appel est consigné à des fins d’observabilité et d’audit. Comme la plateforme fonctionne dans votre VPC, sur site ou dans un environnement isolé (air-gapped), avec prise en charge des normes SOC 2, HIPAA et RGPD, les contrôles de gouvernance s’appliquent quel que soit l’endroit où vos agents s’exécutent.

Il en résulte que la gestion des identités, les politiques d’exécution, la surveillance et l’audit proviennent d’une source unique, au lieu de quatre outils déconnectés, ce qui permet au cadre de fonctionner de manière cohérente à grande échelle.

Construire la pratique autour de la technologie

Les contrôles ne fonctionnent que si l’organisation les soutient. Les équipes qui considèrent la gouvernance comme un obstacle trouveront des moyens de la contourner ; l’objectif est donc de faire en sorte que la voie régie soit la voie la plus simple.

Un déploiement par étapes s’avère généralement efficace : identifiez les agents déjà en exécution, attribuez-leur des identités, activez la surveillance, puis automatisez la collecte des preuves de conformité. Le calendrier dépend de la complexité de votre environnement et des réglementations applicables. Parallèlement, un groupe interfonctionnel regroupant des experts en ingénierie de plateforme, en droit, en conformité et en opérations doit être chargé des décisions relatives aux politiques et gérer les cas nouveaux non couverts par les politiques existantes. Une formation vient compléter le tout, afin que les personnes chargées de développer les agents comprennent le modèle d’autorisation et sachent comment appliquer des garde-fous à leurs propres cas d’utilisation.

Foire aux questions

Qu’est-ce que la gouvernance des agents IA ?

La gouvernance des agents IA désigne l’ensemble des contrôles qui régissent la manière dont les agents autonomes s’authentifient, les outils et les données auxquels ils peuvent accéder, ainsi que la manière dont leurs actions sont surveillées et auditées. Elle traite chaque agent comme une entité distincte dotée d’autorisations bien délimitées, plutôt que de laisser les agents hériter des droits d’accès de la personne qui les a déployés.

En quoi la gestion des risques liés à l’IA agentique diffère-t-elle de la sécurité classique des applications ?

Elle ajoute des risques que la sécurité standard ne couvre pas entièrement, notamment l’injection de prompts, la fuite d’identifiants via les sorties des agents, l’exposition des données à caractère personnel dans les journaux de conversation, et une autonomie excessive due à des autorisations trop larges. La gestion de ces risques nécessite l’inspection des entrées et sorties en temps réel, la mise en place de listes blanches au niveau des outils, et la définition d’un périmètre de privilèges minimaux par agent.

Pourquoi l’identité propre à chaque agent est-elle importante ?

Les comptes de service partagés empêchent de déterminer quel agent a effectué une action, élargissent la portée d’une éventuelle compromission des identifiants et confèrent à chaque agent plus d’accès que nécessaire. L’identité propre à chaque agent lui attribue ses propres identifiants renouvelables, une attribution claire et un périmètre correspondant à sa finalité.

Puis-je mettre en œuvre la gouvernance des agents dans mon propre VPC ou sur site ?

Oui. TrueFoundry fonctionne dans votre VPC, sur site, en environnement isolé (air-gapped) ou dans plusieurs clouds, de sorte qu’aucune donnée ne quitte votre domaine. Les mêmes contrôles d’identité, de politique et d’audit s’appliquent quel que soit l’endroit où les agents s’exécutent, ce qui explique pourquoi les équipes soumises à une réglementation préfèrent un modèle auto-hébergé à une passerelle exclusivement SaaS.

Cette solution est-elle conforme aux normes SOC 2, HIPAA et RGPD ?

TrueFoundry prend en charge les normes SOC 2, HIPAA et RGPD, avec des fonctionnalités intégrées de RBAC, d’authentification unique (SSO) et de journalisation d’audit immuable. C’est cette combinaison qui rend les déploiements d’agents prêts pour l’audit, plutôt que de vous obliger à vous démener pour les documenter avant un contrôle.

Conclusion

La gouvernance des agents IA est ce qui distingue les agents que l’on peut déployer à grande échelle de ceux sur lesquels on ne peut qu’espérer. Le principe n’est pas compliqué : attribuer une identité à chaque agent, appliquer les règles au moment de l’action, surveiller les activités des agents et conserver une trace fiable. La difficulté réside dans la mise en œuvre simultanée de ces quatre étapes, pour chaque agent, sans ralentir le travail des équipes. C’est précisément cette couche que nous avons décidé de fournir. Découvrez comment l’AI Gateway de TrueFoundry réunit l’identité, les règles et la surveillance au sein d’un plan de contrôle unifié et régulé pour vos agents.