Governança de Agentes de IA: Uma Estrutura para Equipes Corporativas

Introdução

Resumo: A governança de agentes de IA é o conjunto de controles de identidade, políticas, monitoramento e auditoria que mantêm os agentes autônomos dentro de limites seguros. A governança tradicional de TI foi criada para softwares que seguem regras fixas; por isso, ela não leva em conta a maneira como os agentes tomam decisões, acionam ferramentas e acessam dados por conta própria. Este guia aborda o que é governança de agentes, os riscos que ela aborda e uma estrutura que você pode implementar antes que os agentes sejam integrados a fluxos de trabalho críticos.

Um agente de IA pode ler um ticket, consultar três sistemas internos, redigir uma resposta e atualizar um registro sem que um ser humano intervenha em nenhuma etapa. Essa autonomia é o ponto principal. É também a razão pela qual a maioria dos controles de governança existentes não se encaixa. As regras de acesso pressupõem que há uma pessoa por trás de cada ação, e os registros de auditoria pressupõem que é possível rastrear essa ação até ela. Os agentes quebram ambas as suposições.

A governança de agentes de IA preenche essa lacuna. Ela atribui a cada agente sua própria identidade, determina o que cada um tem permissão para fazer, monitora o que ele realmente faz e registra detalhes suficientes para responder a perguntas posteriormente. Vamos explicar como isso funciona na prática, quais riscos específicos ela precisa cobrir e como abordamos isso na TrueFoundry.

O que é governança de agentes de IA?

A governança de agentes de IA é a disciplina que controla como os agentes autônomos se autenticam, quais ferramentas e dados eles podem acessar e como suas ações são monitoradas e registradas. Ela trata um agente como um sujeito por si só, e não como uma extensão da pessoa que o implantou.

Essa distinção é importante porque os agentes tomam decisões independentes. Um agente de banco de dados pode possuir credenciais de leitura, mas a verdadeira questão é se ele deve consultar uma tabela contendo registros de clientes para uma determinada solicitação. A governança é o que responde a essa pergunta no momento em que a consulta é feita, e não durante uma revisão semanas depois. Sem ela, as equipes acabam confiando que um agente permanecerá dentro dos limites porque nada deu errado até então.

Uma boa governança também precisa ser prática. Se os controles tornarem os agentes lentos ou difíceis de implantar, as equipes vão contorná-los, e você volta a ter agentes não gerenciados com uma política de governança que existe apenas no papel.

Por que o controle de acesso tradicional não é suficiente para agentes

O controle de acesso padrão atribui permissões aos usuários e registra as ações nas contas dos usuários. Os agentes distorcem esse modelo de três maneiras.

A atribuição fica ambígua. Quando um agente age, o registro geralmente mostra uma conta de serviço, não a pessoa que iniciou a solicitação ou a cadeia de raciocínio que levou à ação. Se algo der errado, você pode ver que uma consulta foi executada, mas não por quê nem em nome de quem.

O acesso às ferramentas se expande. Um único agente pode acessar dezenas de ferramentas e fontes de dados, cada uma com seu próprio modelo de permissão. Essa área de exposição cresce mais rápido do que qualquer processo manual de políticas consegue acompanhar, e é nessas lacunas que ocorrem os incidentes.

O comportamento varia. Softwares tradicionais retornam o mesmo resultado para a mesma entrada. Os agentes, não. Suas respostas mudam de acordo com o histórico da conversa, o contexto e as alterações no modelo subjacente; assim, um controle que era seguro no mês passado pode se comportar de maneira diferente hoje.

Nenhum desses casos é excepcional. São as condições normais de operação dos agentes, e é por isso que a governança precisa ser projetada especificamente para eles, em vez de ser adaptada de sistemas mais antigos.

Os quatro pilares de uma estrutura de governança de agentes

Uma estrutura viável repousa sobre quatro elementos que se reforçam mutuamente.

A identidade vem em primeiro lugar. Cada agente precisa de sua própria identidade com permissões delimitadas, separadas das pessoas que o criam ou o invocam. É isso que torna tudo o mais possível, pois não é possível aplicar regras ou auditar nada se não for possível distinguir os agentes.

A aplicação de políticas deve ocorrer em tempo de execução. A diferença entre monitoramento e governança está no fato de o sistema poder bloquear uma ação não autorizada antes que ela seja executada, e não apenas sinalizá-la posteriormente. Um agente somente de leitura deve ser incapaz de gravar, e não apenas ser notificado por ter tentado.

A observabilidade oferece visibilidade em tempo real do que os agentes estão fazendo. Você quer identificar anomalias, violações de políticas e chamadas de risco no momento em que ocorrem, para poder reagir aos sinais em vez de reconstruir eventos a partir de logs incompletos.

O registro de auditoria captura a trilha de decisões. Cada chamada de ferramenta, acesso a dados e resposta deve ser registrado com atribuição e contexto, de forma que você possa entregar a um auditor ou a um profissional de resposta a incidentes. Essa é a diferença entre dizer que um agente se comportou adequadamente e ser capaz de provar isso.

Riscos dos agentes de IA e como reduzi-los

Os agentes introduzem riscos que a segurança comum de aplicativos não cobre totalmente. A gestão de riscos de IA baseada em agentes começa com a identificação desses riscos.

A injeção de prompts é o principal risco. Entradas maliciosas ocultas no conteúdo do usuário ou em uma fonte de dados externa podem levar um agente a vazar dados ou realizar ações que nunca deveria ter realizado. Agentes que processam conteúdo não confiável são os mais expostos.

A exposição de credenciais vem logo em seguida. Agentes que possuem chaves de API ou tokens podem vazar esses dados em saídas ou logs, a menos que esses valores sejam detectados e mascarados durante o processamento.

O vazamento de PII ocorre discretamente. Dados de clientes que passam por um agente podem aparecer em um log de conversa, uma mensagem de erro ou uma chamada posterior, sem que ninguém tenha decidido que isso deveria acontecer.

A autonomia excessiva é o risco de conceder a um agente mais do que ele precisa. Um agente de código com acesso de gravação a repositórios de produção apresenta um risco que o acesso somente de leitura eliminaria por completo. A solução está no escopo: conceda o mínimo necessário a cada agente, e nada além disso.

A redução desses riscos requer uma combinação de controles. Inspecione entradas e saídas em busca de credenciais, PII e conteúdo proibido antes que elas ultrapassem um limite. Crie uma lista de permissões com as ferramentas específicas que cada agente pode acionar, em vez de permitir tudo por padrão. Defina limites de escalonamento para que decisões de maior risco sejam encaminhadas a um ser humano e ajuste esses limites com base no que você realmente observa na produção.

Identidade por agente e credenciais com escopo definido

Contas de serviço compartilhadas são o atalho mais comum e causam a maior parte dos problemas. Quando vários agentes compartilham um único conjunto de credenciais, você perde a capacidade de identificar qual agente fez o quê. Uma violação dessa conta afeta todos os agentes que a utilizam, não apenas aquele que sofreu a invasão. E cada agente herda o conjunto completo de permissões da conta compartilhada, em vez de um escopo adequado à sua função.

A identidade por agente resolve esses três problemas. Cada agente implantado recebe suas próprias credenciais, que podem ser alternadas e revogadas individualmente, permissões que refletem sua finalidade e uma trilha de auditoria clara. Esse também é o antídoto para a proliferação descontrolada de agentes, situação em que as equipes criam agentes mais rápido do que qualquer pessoa consegue acompanhá-los. Quando cada agente tem uma identidade registrada, a proliferação se torna visível em vez de invisível, e você pode gerenciá-la.

O gerenciamento de identidade para agentes requer abstrações diferentes das do gerenciamento de usuários. Os agentes precisam de identidades persistentes que sobrevivam a uma única sessão, credenciais que sejam renovadas de forma independente e escopos vinculados ao que o agente faz, em vez de a quem o criou.

Conformidade e preparação para auditoria

A regulamentação está se adaptando aos sistemas autônomos, e estruturas como SOC 2, HIPAA e GDPR já estabelecem obrigações que as implantações de agentes devem cumprir. O requisito prático é uma infraestrutura que produza evidências por conta própria, em vez de documentação que alguém monte manualmente antes de uma auditoria.

Isso significa trilhas de auditoria abrangentes, com cada ação do agente registrada juntamente com a atribuição, o carimbo de data/hora e o contexto. Significa registros imutáveis que não podem ser editados posteriormente. Significa retenção que atenda às regras para seus tipos de registros e jurisdições, além da capacidade de exportar logs para as ferramentas de segurança que sua equipe já utiliza.

Para equipes regulamentadas, o local onde os agentes são executados é tão importante quanto a forma como são governados. Executar agentes dentro de sua própria VPC, no local ou em um ambiente isolado mantém os dados confidenciais dentro de seus limites, ao mesmo tempo em que se aplicam os mesmos controles de identidade, política e registro.

Como a TrueFoundry aborda a governança de agentes

Construímos nossa plataforma para que a governança faça parte da forma como os agentes são executados, e não seja uma camada adicionada posteriormente. O Agent Gateway atribui a cada agente sua própria identidade com credenciais com escopo definido e rotativas, de modo que as ações sejam atribuíveis e as permissões correspondam à função do agente, em vez do acesso de seu criador.

O acesso às ferramentas ocorre por meio do mesmo plano de controle. Os agentes acessam ferramentas e dados via MCP com OAuth2, RBAC e políticas de metadados aplicadas a cada chamada de ferramenta, o que permite autorizar uma leitura no banco de dados e, ao mesmo tempo, bloquear uma gravação. Os guardrails inspecionam solicitações e respostas em busca de PII e outros conteúdos proibidos tanto nos caminhos de entrada quanto de saída, e cada chamada é registrada para fins de observabilidade e auditoria. Como a plataforma é executada em sua VPC, em ambiente local ou isolado (air-gapped), com suporte a SOC 2, HIPAA e GDPR, os controles de governança se aplicam independentemente de onde seus agentes sejam executados.

O resultado é que identidade, política de tempo de execução, monitoramento e auditoria vêm de um único lugar, em vez de quatro ferramentas desconectadas — e é isso que mantém a estrutura coesa em escala.

Construindo a prática em torno da tecnologia

Os controles só funcionam quando a organização os apoia. Equipes que tratam a governança como um obstáculo encontrarão maneiras de contorná-la; portanto, o objetivo é tornar o caminho governado o caminho mais fácil.

Uma implementação em fases costuma funcionar: identifique os agentes já em execução, atribua identidades a eles, ative o monitoramento e, em seguida, automatize as evidências de conformidade. O prazo depende da complexidade do seu ambiente e das regulamentações aplicáveis. Paralelamente, um grupo multifuncional que abranja engenharia de plataforma, jurídico, conformidade e operações deve ser responsável pelas decisões de política e lidar com os casos novos que as políticas existentes não abrangem. O treinamento completa o processo, para que as pessoas que desenvolvem os agentes compreendam o modelo de permissões e saibam como aplicar limites de segurança aos seus próprios casos de uso.

Perguntas frequentes

O que é governança de agentes de IA?

A governança de agentes de IA é o conjunto de controles que gerencia como os agentes autônomos se autenticam, quais ferramentas e dados eles podem acessar e como suas ações são monitoradas e auditadas. Ela trata cada agente como um agente independente com permissões delimitadas, em vez de permitir que os agentes herdem o acesso da pessoa que os implantou.

Em que a gestão de riscos de IA baseada em agentes difere da segurança normal de aplicativos?

Ela acrescenta riscos que a segurança padrão não aborda totalmente, incluindo injeção de prompts, vazamento de credenciais por meio das saídas dos agentes, exposição de informações de identificação pessoal (PII) em registros de conversas e autonomia excessiva decorrente de permissões muito amplas. Gerenciar esses riscos requer inspeção de entradas e saídas em tempo de execução, listas de permissão no nível da ferramenta e definição de escopo com o mínimo de privilégios por agente.

Por que a identidade por agente é importante?

Contas de serviço compartilhadas tornam impossível identificar qual agente realizou uma ação, ampliam o alcance do dano caso as credenciais sejam comprometidas e concedem a cada agente mais acesso do que o necessário. A identidade por agente proporciona a cada um credenciais rotativas próprias, atribuição clara e um escopo que corresponde à sua finalidade.

Posso executar a governança de agentes na minha própria VPC ou no ambiente local?

Sim. O TrueFoundry é executado em sua VPC, no local, em ambiente isolado (air-gapped) ou em várias nuvens, de modo que nenhum dado sai do seu domínio. Os mesmos controles de identidade, política e auditoria se aplicam independentemente de onde os agentes sejam executados, e é por isso que equipes regulamentadas optam por um modelo auto-hospedado em vez de um gateway exclusivamente SaaS.

Isso é compatível com SOC 2, HIPAA e GDPR?

O TrueFoundry é compatível com as normas SOC 2, HIPAA e GDPR, com RBAC, SSO e registro de auditoria imutável integrados. Essa combinação é o que torna as implantações de agentes prontas para auditoria, em vez de algo que você precisa se apressar para documentar antes de uma revisão.

Conclusão

A governança de agentes de IA é o que diferencia os agentes que você pode escalar daqueles com os quais você só pode torcer para que funcionem. A estrutura, em princípio, não é complicada: atribuir uma identidade a cada agente, aplicar políticas no momento da ação, monitorar o que os agentes fazem e manter um registro que você possa comprovar. O que torna isso difícil é realizar todas essas quatro tarefas ao mesmo tempo, em todos os agentes, sem prejudicar o ritmo de trabalho das equipes. É essa camada que nos propusemos a oferecer. Veja como o AI Gateway da TrueFoundry reúne identidade, políticas e monitoramento em um único plano de controle governado para seus agentes.