Gobernanza de los agentes de IA: un marco para equipos empresariales

Introducción

En resumen: la gobernanza de los agentes de IA es el conjunto de controles de identidad, políticas, supervisión y auditoría que mantienen a los agentes autónomos dentro de unos límites seguros. La gobernanza tradicional de las tecnologías de la información se diseñó para software que sigue reglas fijas, por lo que no tiene en cuenta la forma en que los agentes toman decisiones, activan herramientas y acceden a datos por su cuenta. Esta guía explica qué es la gobernanza de los agentes, los riesgos a los que da respuesta y un marco que puedes implementar antes de que los agentes se integren en flujos de trabajo críticos.

Un agente de IA puede leer un ticket, consultar tres sistemas internos, redactar una respuesta y actualizar un registro sin que un humano intervenga en ningún paso. Esa autonomía es la clave. También es la razón por la que la mayoría de los controles de gobernanza existentes no encajan. Las reglas de acceso dan por hecho que hay una persona detrás de cada acción, y los registros de auditoría asumen que se puede rastrear esa acción hasta ella. Los agentes rompen ambas suposiciones.

La gobernanza de los agentes de IA cierra esa brecha. Otorga a cada agente su propia identidad, decide qué se le permite hacer a cada uno, supervisa lo que realmente hace y registra suficientes detalles para responder a preguntas posteriores. Analizamos cómo se aplica esto en la práctica, los riesgos específicos que debe cubrir y cómo lo abordamos en TrueFoundry.

¿Qué es la gobernanza de los agentes de IA?

La gobernanza de los agentes de IA es la disciplina que controla cómo se autentican los agentes autónomos, a qué herramientas y datos pueden acceder, y cómo se supervisan y registran sus acciones. Trata al agente como un sujeto de pleno derecho, no como una extensión de la persona que lo ha implementado.

Esta distinción es importante porque los agentes toman decisiones de forma independiente. Un agente de base de datos puede tener credenciales de lectura, pero la verdadera cuestión es si debe consultar una tabla que contenga registros de clientes para una solicitud concreta. La gobernanza es lo que responde a esa pregunta en el momento en que se realiza la consulta, en lugar de durante una revisión semanas más tarde. Sin ella, los equipos acaban confiando en que un agente se mantendrá dentro de los límites porque aún no ha ocurrido ningún problema.

Una buena gobernanza también debe ser práctica. Si los controles ralentizan a los agentes o dificultan su implementación, los equipos los eluden, y se vuelve a la situación de agentes no gestionados con una política de gobernanza que solo existe sobre el papel.

Por qué el control de acceso tradicional se queda corto para los agentes

El control de acceso estándar asigna permisos a los usuarios y registra las acciones en las cuentas de usuario. Los agentes difuminan ese modelo de tres maneras.

La atribución se vuelve confusa. Cuando un agente actúa, el registro suele mostrar una cuenta de servicio, no a la persona que inició la solicitud ni la cadena de razonamiento que condujo a la acción. Si algo sale mal, se puede ver que se ejecutó una consulta, pero no por qué ni en nombre de quién.

El acceso a las herramientas se expande sin control. Un solo agente puede acceder a docenas de herramientas y fuentes de datos, cada una con su propio modelo de permisos. Esa superficie de exposición crece más rápido de lo que cualquier proceso de políticas manual puede seguir, y es en esas brechas donde se producen los incidentes.

El comportamiento varía. El software tradicional devuelve el mismo resultado para la misma entrada. Los agentes no. Sus respuestas cambian en función del historial de conversaciones, el contexto y los cambios en el modelo subyacente, por lo que un control que era seguro el mes pasado puede comportarse de forma diferente hoy.

Ninguno de estos casos es excepcional. Son las condiciones normales de funcionamiento de los agentes, por lo que la gobernanza debe diseñarse específicamente para ellos, en lugar de tomarse prestada de sistemas más antiguos.

Los cuatro pilares de un marco de gobernanza de agentes

Un marco viable se sustenta en cuatro elementos que se refuerzan mutuamente.

La identidad es lo primero. Cada agente necesita su propia identidad con permisos delimitados, independiente de las personas que lo crean o lo invocan. Esto es lo que hace posible todo lo demás, ya que no se puede hacer cumplir ni auditar nada si no se puede distinguir a los agentes entre sí.

La aplicación de políticas debe producirse en tiempo de ejecución. La diferencia entre la supervisión y la gobernanza radica en si el sistema puede bloquear una acción no autorizada antes de que se ejecute, y no solo señalarla a posteriori. Un agente de solo lectura no debería poder escribir, y no solo ser objeto de un informe por haberlo intentado.

La observabilidad te ofrece visibilidad en tiempo real de lo que están haciendo los agentes. Quieres detectar anomalías, incumplimientos de políticas y llamadas de riesgo en el momento en que se producen, para poder reaccionar ante las señales en lugar de reconstruir los eventos a partir de registros incompletos.

El registro de auditoría captura el rastro de las decisiones. Cada llamada a una herramienta, cada acceso a datos y cada respuesta deben registrarse con atribución y contexto, en un formato que puedas entregar a un auditor o a un responsable de la gestión de incidentes. Esta es la diferencia entre decir que un agente se comportó correctamente y poder demostrarlo.

Riesgos de los agentes de IA y cómo reducirlos

Los agentes introducen riesgos que la seguridad habitual de las aplicaciones no cubre por completo. La gestión de riesgos de la IA de tipo agente comienza por identificarlos.

La inyección de comandos es el riesgo más destacado. Una entrada maliciosa oculta en el contenido del usuario o en una fuente de datos externa puede llevar a un agente a filtrar datos o a realizar acciones que nunca se pretendió que llevara a cabo. Los agentes que procesan contenido no fiable son los más expuestos.

La exposición de credenciales le sigue de cerca. Los agentes que almacenan claves o tokens de API pueden filtrarlos en las salidas o en los registros, a menos que esos valores se detecten y se enmascaren durante su procesamiento.

La filtración de datos de carácter personal (PII) ocurre de forma silenciosa. Los datos de los clientes que fluyen a través de un agente pueden aparecer en un registro de conversación, un mensaje de error o una llamada posterior, sin que nadie haya decidido que deba ser así.

La autonomía excesiva es el riesgo de otorgar a un agente más de lo que necesita. Un agente de código con acceso de escritura a los repositorios de producción conlleva un riesgo que el acceso de solo lectura eliminaría por completo. La solución está en el alcance: conceder lo mínimo que cada agente necesita, y nada más.

Para reducir estos riesgos se necesita una combinación de controles. Inspecciona las entradas y salidas en busca de credenciales, datos de carácter personal y contenido prohibido antes de que crucen un límite. Establece una lista de herramientas específicas que cada agente puede invocar, en lugar de permitirlas por defecto. Establece umbrales de escalación para que las decisiones de mayor riesgo se deriven a una persona, y ajusta esos umbrales en función de lo que realmente observes en producción.

Identidad por agente y credenciales con ámbito de aplicación

Las cuentas de servicio compartidas son el atajo más habitual y el que causa más problemas. Cuando varios agentes comparten un mismo conjunto de credenciales, se pierde la capacidad de determinar qué agente hizo qué. Una violación de esa cuenta afecta a todos los agentes que la utilizan, no solo al que ha sufrido la brecha. Además, cada agente hereda el conjunto completo de permisos de la cuenta compartida, en lugar de un ámbito que se ajuste a su función.

La identidad por agente soluciona estos tres problemas. Cada agente desplegado dispone de sus propias credenciales, que pueden rotarse y revocarse de forma independiente; de permisos que reflejan su finalidad; y de un registro de auditoría claro. Esto también es el antídoto contra la proliferación descontrolada de agentes, la situación en la que los equipos crean agentes más rápido de lo que nadie puede hacer un seguimiento de ellos. Cuando cada agente tiene una identidad registrada, la proliferación pasa de ser invisible a ser visible, y se puede gestionar.

La gestión de identidades para agentes requiere abstracciones diferentes a las de la gestión de usuarios. Los agentes necesitan identidades persistentes que perduren más allá de una sola sesión, credenciales que se renueven de forma independiente y ámbitos vinculados a lo que hace el agente, en lugar de a quién lo ha creado.

Cumplimiento normativo y preparación para auditorías

La normativa se está poniendo al día con los sistemas autónomos, y marcos como SOC 2, HIPAA y el RGPD ya establecen obligaciones que deben cumplir las implementaciones de agentes. El requisito práctico es una infraestructura que genere pruebas por sí misma, en lugar de documentación que alguien recopile manualmente antes de una auditoría.

Esto implica registros de auditoría exhaustivos, en los que cada acción de un agente quede registrada junto con la atribución, la marca de tiempo y el contexto. Implica registros inmutables que no puedan modificarse a posteriori. Implica un periodo de conservación que se ajuste a las normas aplicables a tus tipos de registros y jurisdicciones, así como la capacidad de exportar los registros a las herramientas de seguridad que tu equipo ya utiliza.

Para los equipos sujetos a regulación, el lugar donde se ejecutan los agentes es tan importante como la forma en que se gestionan. Ejecutar los agentes dentro de su propia VPC, en sus propias instalaciones o en un entorno aislado mantiene los datos confidenciales dentro de sus límites, al tiempo que se aplican los mismos controles de identidad, políticas y registro.

Cómo aborda TrueFoundry la gobernanza de los agentes

Hemos diseñado nuestra plataforma de tal forma que la gobernanza forme parte del funcionamiento de los agentes, y no sea una capa añadida posteriormente. Agent Gateway proporciona a cada agente su propia identidad con credenciales de ámbito limitado y rotativas, de modo que las acciones sean atribuibles y los permisos se ajusten a la función del agente, en lugar de al acceso de su creador.

El acceso a las herramientas se gestiona a través del mismo plano de control. Los agentes acceden a las herramientas y a los datos a través de MCP con OAuth2, RBAC y políticas de metadatos aplicadas a cada llamada a una herramienta, lo que permite autorizar la lectura de una base de datos al tiempo que se bloquea la escritura. Los mecanismos de protección inspeccionan las solicitudes y respuestas en busca de información de identificación personal (PII) y otros contenidos prohibidos, tanto en las rutas de entrada como de salida, y cada llamada se registra con fines de observabilidad y auditoría. Dado que la plataforma se ejecuta en su VPC, en sus instalaciones o en un entorno aislado (air-gapped) con compatibilidad con SOC 2, HIPAA y el RGPD, los controles de gobernanza se mantienen independientemente de dónde se ejecuten sus agentes.

El resultado es que la identidad, la política de tiempo de ejecución, la supervisión y la auditoría provienen de un único lugar, en lugar de cuatro herramientas inconexas, lo que hace que el marco funcione de forma coherente a gran escala.

Desarrollar la práctica en torno a la tecnología

Los controles solo funcionan cuando la organización los respalda. Los equipos que consideran el control de gobernanza como un obstáculo encontrarán formas de eludirlo, por lo que el objetivo es hacer que la vía regulada sea la más sencilla.

Una implantación por fases suele dar buenos resultados: identificar los agentes que ya están en funcionamiento, asignarles identidades, activar la supervisión y, a continuación, automatizar las pruebas de cumplimiento. El calendario depende de la complejidad de tu entorno y de la normativa aplicable. Además, un grupo multifuncional que abarque ingeniería de plataformas, asuntos jurídicos, cumplimiento normativo y operaciones debería encargarse de las decisiones sobre políticas y gestionar los casos nuevos que las políticas existentes no cubran. La formación completa el proceso, de modo que las personas que desarrollan los agentes comprendan el modelo de permisos y sepan cómo aplicar medidas de protección a sus propios casos de uso.

Preguntas frecuentes

¿Qué es la gobernanza de los agentes de IA?

La gobernanza de los agentes de IA es el conjunto de controles que gestionan cómo se autentican los agentes autónomos, a qué herramientas y datos pueden acceder, y cómo se supervisan y auditan sus acciones. Trata a cada agente como un sujeto independiente con permisos delimitados, en lugar de permitir que los agentes hereden el acceso de la persona que los ha implementado.

¿En qué se diferencia la gestión de riesgos de la IA agentiva de la seguridad habitual de las aplicaciones?

Añade riesgos que la seguridad estándar no aborda por completo, como la inyección de prompts, la filtración de credenciales a través de las salidas de los agentes, la exposición de datos personales en los registros de conversación y la autonomía excesiva derivada de permisos demasiado amplios. Gestionar estos riesgos requiere la inspección de entradas y salidas en tiempo de ejecución, la creación de listas de permitidos a nivel de herramienta y la definición de un ámbito de privilegios mínimos por agente.

¿Por qué es importante la identidad por agente?

Las cuentas de servicio compartidas impiden determinar qué agente realizó una acción, amplían el alcance de un posible incidente si se ven comprometidas las credenciales y otorgan a cada agente más acceso del que necesita. La identidad por agente proporciona a cada uno de ellos sus propias credenciales rotativas, una atribución clara y un ámbito que se ajusta a su finalidad.

¿Puedo aplicar la gestión de agentes en mi propia VPC o en mis instalaciones?

Sí. TrueFoundry se ejecuta en su VPC, en sus instalaciones, en un entorno aislado (air-gapped) o en varias nubes, por lo que ningún dato sale de su dominio. Se aplican los mismos controles de identidad, políticas y auditoría independientemente de dónde se ejecuten los agentes, razón por la cual los equipos sujetos a normativa eligen un modelo autohospedado en lugar de una pasarela exclusivamente SaaS.

¿Es compatible con SOC 2, HIPAA y el RGPD?

TrueFoundry cumple con las normas SOC 2, HIPAA y RGPD, con RBAC, SSO y registro de auditoría inmutable integrados. Esa combinación es lo que hace que las implementaciones de agentes estén preparadas para la auditoría, en lugar de tener que documentarlas a toda prisa antes de una revisión.

Conclusión

La gobernanza de los agentes de IA es lo que distingue a los agentes que se pueden escalar de aquellos en los que solo cabe confiar. El marco no es complicado en principio: asignar una identidad a cada agente, aplicar las políticas en el momento de la acción, supervisar lo que hacen los agentes y mantener un registro que se pueda respaldar. Lo que lo complica es llevar a cabo estas cuatro tareas a la vez, en todos los agentes, sin ralentizar el trabajo de los equipos. Esa es la capa que nos hemos propuesto ofrecer. Descubre cómo AI Gateway de TrueFoundry integra la identidad, las políticas y la supervisión en un único plano de control regulado para tus agentes.