Beheer van AI-agenten: een raamwerk voor bedrijfsteams

Inleiding

TL;DR: AI-agentgovernance is het geheel van identiteits-, beleids-, monitoring- en auditmaatregelen dat autonome agenten binnen veilige grenzen houdt. Traditioneel IT-beheer is ontwikkeld voor software die vaste regels volgt, en houdt dus geen rekening met de manier waarop agenten zelfstandig beslissingen nemen, tools aanroepen en toegang krijgen tot gegevens. Deze gids behandelt wat agentgovernance is, welke risico's het aanpakt en een raamwerk dat u kunt implementeren voordat agenten worden geïntegreerd in kritieke workflows.

Een AI-agent kan een ticket lezen, drie interne systemen raadplegen, een antwoord opstellen en een record bijwerken zonder dat een mens ook maar één stap hoeft uit te voeren. Die autonomie is juist het punt. Het is ook de reden waarom de meeste bestaande governance-maatregelen niet passen. Toegangsregels gaan ervan uit dat er achter elke actie een persoon schuilgaat, en auditlogs gaan ervan uit dat je die actie naar die persoon kunt herleiden. Agenten doorbreken beide aannames.

Governance van AI-agenten dicht die kloof. Het geeft elke agent een eigen identiteit, bepaalt wat elke agent mag doen, houdt in de gaten wat hij daadwerkelijk doet en registreert voldoende details om later vragen te kunnen beantwoorden. We laten zien hoe dat er in de praktijk uitziet, welke specifieke risico’s het moet afdekken en hoe we dit bij TrueFoundry aanpakken.

Wat is AI-agentgovernance?

AI-agentgovernance is de discipline die bepaalt hoe autonome agenten zich authenticeren, tot welke tools en gegevens ze toegang hebben, en hoe hun acties worden gemonitord en vastgelegd. Het behandelt een agent als een volwaardige entiteit op zich, niet als een verlengstuk van de persoon die hem heeft ingezet.

Dit onderscheid is belangrijk omdat agents onafhankelijke keuzes maken. Een databaseagent kan weliswaar leesrechten hebben, maar de echte vraag is of hij voor een bepaald verzoek een tabel met klantgegevens mag opvragen. Governance geeft antwoord op die vraag op het moment dat de aanvraag wordt gedaan, in plaats van tijdens een evaluatie weken later. Zonder governance vertrouwen teams er uiteindelijk op dat een agent zich aan de regels houdt, simpelweg omdat er nog niets mis is gegaan.

Goed governance moet ook praktisch zijn. Als de controles agents traag maken of de inzet ervan bemoeilijken, zullen teams deze omzeilen, en ben je weer terug bij onbeheerde agents met een governancebeleid dat alleen op papier bestaat.

Waarom traditionele toegangscontrole tekortschiet voor agents

Standaardtoegangscontrole wijst rechten toe aan gebruikers en registreert acties op gebruikersaccounts. Agenten maken dat model op drie manieren onduidelijk.

De toewijzing wordt onduidelijk. Wanneer een agent actie onderneemt, toont het logboek meestal een serviceaccount, niet de persoon die het verzoek heeft ingediend of de redeneringsketen die tot de actie heeft geleid. Als er iets misgaat, kun je zien dat er een query is uitgevoerd, maar niet waarom of namens wie.

De toegang tot tools breidt zich uit. Eén enkele agent kan tientallen tools en gegevensbronnen bereiken, elk met een eigen machtigingsmodel. Dat bereik groeit sneller dan welk handmatig beleidstraject dan ook kan bijhouden, en juist in die hiaten doen zich incidenten voor.

Het gedrag verandert. Traditionele software levert bij dezelfde invoer altijd dezelfde uitvoer op. Agenten doen dat niet. Hun reacties verschuiven naargelang de gespreksgeschiedenis, de context en wijzigingen in het onderliggende model, waardoor een controle die vorige maand nog veilig was, zich vandaag anders kan gedragen.

Dit zijn geen uitzonderingsgevallen. Het zijn de normale bedrijfsomstandigheden voor agents, en daarom moet governance specifiek voor hen worden ontworpen in plaats van overgenomen uit oudere systemen.

De vier pijlers van een governancekader voor agents

Een werkbaar raamwerk rust op vier elementen die elkaar versterken.

Identiteit komt op de eerste plaats. Elke agent heeft zijn eigen identiteit nodig met afgebakende rechten, los van de mensen die hem bouwen of aanroepen. Dit maakt al het andere mogelijk, want je kunt niets afdwingen of controleren als je agenten niet van elkaar kunt onderscheiden.

Beleidsafdwinging moet tijdens de uitvoering plaatsvinden. Het verschil tussen monitoring en governance is of het systeem een ongeautoriseerde actie kan blokkeren voordat deze wordt uitgevoerd, en niet alleen achteraf kan markeren. Een alleen-lezen-agent moet niet kunnen schrijven, en niet alleen worden gerapporteerd omdat hij het heeft geprobeerd.

Observeerbaarheid biedt je realtime inzicht in wat agents doen. Je wilt afwijkingen, beleidsschendingen en risicovolle beslissingen zien op het moment dat ze plaatsvinden, zodat je reageert op signalen in plaats van gebeurtenissen te reconstrueren op basis van onvolledige logbestanden.

Auditlogging legt het beslissingstraject vast. Elke toolaanroep, gegevenstoegang en reactie moet worden vastgelegd met bronvermelding en context, in een vorm die u kunt overhandigen aan een auditor of een incidentbehandelaar. Dit is het verschil tussen zeggen dat een agent zich correct heeft gedragen en dit ook kunnen bewijzen.

Risico’s van AI-agenten en hoe deze te verminderen

Agents brengen risico’s met zich mee die gewone applicatiebeveiliging niet volledig dekt. Risicobeheer voor agent-AI begint met het benoemen ervan.

Prompt-injectie is het grootste risico. Kwaadaardige invoer die verborgen zit in gebruikerscontent of een externe gegevensbron kan een agent ertoe aanzetten gegevens te lekken of acties te ondernemen die nooit de bedoeling waren. Agenten die niet-vertrouwde content verwerken, lopen het grootste risico.

Het blootstellen van inloggegevens volgt op de voet. Agents die API-sleutels of tokens bewaren, kunnen deze in uitvoer of logbestanden lekken, tenzij die waarden tijdens de verwerking worden gedetecteerd en gemaskeerd.

Het lekken van PII gebeurt onopgemerkt. Klantgegevens die via een agent stromen, kunnen opduiken in een gesprekslog, een foutmelding of een downstream-aanroep, zonder dat iemand daar bewust voor heeft gekozen.

Overmatige bevoegdheden vormen het risico dat een agent meer krijgt dan hij nodig heeft. Een codeagent met schrijftoegang tot productierepositories brengt een risico met zich mee dat bij alleen-lezen-toegang volledig zou worden weggenomen. De oplossing ligt in het beperken van de reikwijdte: verleen elke agent het minimum dat hij nodig heeft, en niet meer.

Het verminderen van deze risico’s vereist een combinatie van maatregelen. Controleer invoer en uitvoer op inloggegevens, PII en verboden inhoud voordat deze een grens overschrijden. Stel een whitelist op met de specifieke tools die elke agent mag aanroepen, in plaats van standaard alles toe te staan. Stel escalatiedrempels in zodat beslissingen met een hoger risico naar een mens worden doorgestuurd, en stem die drempels af op wat u daadwerkelijk in de productie ziet.

Identiteit per agent en in bereik beperkte inloggegevens

Gedeelde serviceaccounts zijn de meest voorkomende snelkoppeling, en ze veroorzaken de meeste problemen. Wanneer meerdere agents één set inloggegevens delen, kun je niet meer achterhalen welke agent wat heeft gedaan. Een inbreuk op dat account heeft gevolgen voor elke agent die het gebruikt, niet alleen voor degene die is gehackt. En elke agent erft de volledige set rechten van het gedeelde account in plaats van een bereik dat past bij zijn taak.

Identiteit per agent lost deze drie problemen op. Elke geïmplementeerde agent krijgt zijn eigen inloggegevens die afzonderlijk kunnen worden gewisseld en ingetrokken, rechten die aansluiten bij zijn doel, en een duidelijk controlespoor. Dit is ook het tegengif voor agent-wildgroei, de situatie waarin teams sneller agents opzetten dan iemand ze kan bijhouden. Wanneer elke agent een geregistreerde identiteit heeft, wordt wildgroei zichtbaar in plaats van onzichtbaar, en kun je deze beheren.

Identiteitsbeheer voor agents vereist andere abstracties dan gebruikersbeheer. Agents hebben permanente identiteiten nodig die langer meegaan dan een enkele sessie, inloggegevens die onafhankelijk worden gewisseld, en bevoegdheden die zijn gekoppeld aan wat de agent doet in plaats van aan wie hem heeft aangemaakt.

Naleving en auditgereedheid

De regelgeving haalt autonome systemen in, en kaders zoals SOC 2, HIPAA en de AVG leggen nu al verplichtingen op waaraan de inzet van agents moet voldoen. De praktische eis is een infrastructuur die zelf bewijsmateriaal genereert, in plaats van documentatie die iemand met de hand samenstelt vóór een audit.

Dat betekent uitgebreide audittrails, waarbij elke actie van een agent wordt gelogd, samen met de toewijzing, tijdstempel en context. Het betekent onveranderlijke records die achteraf niet meer kunnen worden bewerkt. Het betekent een bewaartermijn die voldoet aan de regels voor uw recordtypes en rechtsgebieden, en de mogelijkheid om logs te exporteren naar de beveiligingstools die uw team al gebruikt.

Voor teams die onder regelgeving vallen, is de omgeving waarin de agents draaien net zo belangrijk als de manier waarop ze worden beheerd. Door agents binnen uw eigen VPC, on-premise of in een air-gapped omgeving te draaien, blijven gevoelige gegevens binnen uw grenzen, terwijl dezelfde identiteits-, beleids- en logboekcontroles van toepassing zijn.

Hoe TrueFoundry agentbeheer benadert

We hebben ons platform zo gebouwd dat governance integraal deel uitmaakt van de werking van agents, en niet een laag is die er later aan is toegevoegd. De Agent Gateway geeft elke agent een eigen identiteit met beperkte, vervangbare inloggegevens, zodat acties herleidbaar zijn en machtigingen aansluiten bij de taak van de agent in plaats van bij de toegang van de maker ervan.

Toegang tot tools verloopt via hetzelfde control plane. Agents bereiken tools en gegevens via MCP met OAuth2, RBAC en metadatabeleid dat op elke toolaanroep wordt toegepast, waardoor u bijvoorbeeld het lezen van een database kunt toestaan terwijl schrijven wordt geblokkeerd. Veiligheidsmaatregelen controleren verzoeken en antwoorden op PII en andere verboden inhoud, zowel in de invoer- als in de uitvoertrajecten, en elke aanroep wordt gelogd voor observatie en auditdoeleinden. Omdat het platform draait in uw VPC, on-premise of air-gapped omgeving met ondersteuning voor SOC 2, HIPAA en de AVG, gelden de governance-maatregelen overal waar uw agents draaien.

Het resultaat is dat identiteit, runtime-beleid, monitoring en audit vanuit één plek worden geregeld in plaats van via vier losstaande tools, waardoor het framework ook op grote schaal samenhangend blijft.

De werkwijze rond de technologie opbouwen

Controles werken alleen als de organisatie erachter staat. Teams die governance als een belemmering zien, zullen manieren vinden om deze te omzeilen; het doel is dus om het gereguleerde pad het gemakkelijkste pad te maken.

Een gefaseerde uitrol werkt doorgaans goed: zoek de agents die al draaien, wijs ze identiteiten toe, schakel monitoring in en automatiseer vervolgens het bewijs van naleving. De timing hangt af van de complexiteit van uw omgeving en de geldende regelgeving. Daarnaast moet een multifunctionele groep, bestaande uit platform-engineering, juridische zaken, compliance en operations, verantwoordelijk zijn voor beleidsbeslissingen en de nieuwe gevallen afhandelen die niet onder het bestaande beleid vallen. Training maakt het plaatje compleet, zodat de mensen die agents bouwen het machtigingsmodel begrijpen en weten hoe ze beveiligingsmaatregelen moeten toepassen op hun eigen gebruikssituaties.

Veelgestelde vragen

Wat is AI-agentgovernance?

AI-agentgovernance is het geheel van controles dat bepaalt hoe autonome agents zich authenticeren, tot welke tools en gegevens ze toegang hebben en hoe hun acties worden gemonitord en gecontroleerd. Het behandelt elke agent als een eigen entiteit met afgebakende rechten, in plaats van dat agents de toegang overnemen van de persoon die ze heeft geïmplementeerd.

Waarin verschilt risicobeheer voor agent-AI van normale applicatiebeveiliging?

Het voegt risico’s toe die standaardbeveiliging niet volledig aanpakt, waaronder prompt-injectie, het lekken van inloggegevens via agent-uitvoer, blootstelling van PII in gesprekslogboeken en buitensporige autonomie door te ruime machtigingen. Het beheer hiervan vereist inspectie van invoer en uitvoer tijdens de uitvoering, allowlisting op toolniveau en het toekennen van de minimaal benodigde rechten per agent.

Waarom is identiteit per agent belangrijk?

Gedeelde serviceaccounts maken het onmogelijk om te achterhalen welke agent een actie heeft uitgevoerd, vergroten de omvang van de schade als inloggegevens worden gecompromitteerd en geven elke agent meer toegang dan nodig is. Identiteit per agent geeft elke agent zijn eigen vervangbare inloggegevens, duidelijke toewijzing en een bereik dat aansluit bij het doel ervan.

Kan ik agentbeheer uitvoeren in mijn eigen VPC of on-prem?

Ja. TrueFoundry draait in uw VPC, on-prem, in een air-gapped omgeving of in verschillende clouds, zodat er geen gegevens uw domein verlaten. Dezelfde identiteits-, beleids- en auditcontroles zijn van toepassing, ongeacht waar de agents draaien. Daarom kiezen teams die aan regelgeving moeten voldoen voor een zelfgehost model in plaats van een gateway die uitsluitend als SaaS wordt aangeboden.

Ondersteunt dit SOC 2, HIPAA en de AVG?

TrueFoundry ondersteunt de SOC 2-, HIPAA- en GDPR-normen, met ingebouwde RBAC, SSO en onveranderlijke auditlogging. Dankzij die combinatie zijn agentimplementaties direct klaar voor audits, in plaats van dat u zich vlak voor een beoordeling haastig moet haasten om alles te documenteren.

Conclusie

Het beheer van AI-agenten is wat het verschil maakt tussen agenten die je kunt opschalen en agenten waar je maar op moet hopen. Het raamwerk is in principe niet ingewikkeld: geef elke agent een identiteit, handhaaf het beleid op het moment van handelen, houd in de gaten wat agenten doen en houd een logboek bij waar je achter kunt staan. Wat het moeilijk maakt, is om deze vier zaken tegelijkertijd te doen, voor elke agent, zonder dat dit ten koste gaat van de snelheid van de teams. Dat is precies de laag die wij willen bieden. Ontdek hoe de AI Gateway van TrueFoundry identiteit, beleid en monitoring samenbrengt in één beheerd besturingsvlak voor uw agents.