El Centro Nacional de Ciberseguridad del Reino Unido (NCSC) ha publicado recientemente una guía sobre cómo gestionar los riesgos de ciberseguridad asociados a la IA agéntica. Aunque el documento ofrece recomendaciones provisionales mientras se elabora una guía más formal, refleja la situación actual del sector: las organizaciones ya están desplegando agentes en entornos de producción, mientras que los estándares, controles y modelos operativos para los sistemas autónomos aún no están consolidados. La gobernanza está evolucionando a la par que la adopción, en lugar de precederla, una realidad que subraya la importancia de contar con controles sólidos.
Las directrices del NCSC recomiendan adaptar los controles al nivel de autonomía de cada agente, asignar identidades diferenciadas a los agentes, limitar sus permisos y el acceso a sistemas y datos, supervisar su actividad, mantener la supervisión humana y garantizar la posibilidad de intervenir cuando sea necesario. La mayoría de estas recomendaciones resultarán familiares a los equipos de seguridad. El reto no está en la novedad de los controles, sino en el tipo de sistema que ahora deben regir.
El paso de la seguridad de los modelos a la seguridad de los agentes
Durante varios años, los debates sobre la seguridad de la IA se han centrado en gran medida en los modelos. ¿Se puede manipular un modelo? ¿Se le ha hecho jailbreak? ¿Es de confianza? ¿Puede revelar información que no debería? Esas preguntas siguen siendo importantes, pero solo reflejan una parte del problema. Una cosa es que un modelo genere texto. Un sistema conectado a identidades, aplicaciones, herramientas, flujos de trabajo y datos empresariales es otra cosa.
La diferencia queda más clara al comparar un chatbot que responde preguntas con un agente capaz de consultar registros de clientes, actualizar tickets, invocar herramientas, activar flujos de trabajo e interactuar con sistemas externos. El modelo subyacente puede ser idéntico. Pero no ocurre lo mismo con su acceso. La cuestión de seguridad empieza a desplazarse de lo que sabe el modelo a lo que puede hacer el sistema.
La misma idea aparece en la declaración de Five Eyes, publicada a principios de este año, que describe la IA como un multiplicador de fuerza que está acelerando tanto las operaciones cibernéticas ofensivas como las defensivas. La guía del NCSC analiza cómo se manifiesta esa realidad cuando los sistemas autónomos empiezan a operar en entornos empresariales.
Protección de los agentes de IA en funcionamiento
El NCSC dedica relativamente poco tiempo a debatir sobre el comportamiento de los modelos y bastante más a tratar la identidad, los permisos, la monitorización, la supervisión, la contención y la respuesta. Los agentes se consideran participantes dentro de un entorno, en lugar de elementos tecnológicos aislados.
Esto coincide, en términos generales, con nuestra forma de entender el problema en Darktrace.
Un agente no debe considerarse una extensión de una cuenta de usuario. Desarrolla sus propios patrones de comportamiento. Accede a sistemas, interactúa con datos, invoca herramientas y avanza por flujos de trabajo de formas que pueden observarse de manera independiente. Es importante entender qué tiene permitido hacer un agente. Entender cómo se comporta realmente una vez implementado y si ese comportamiento se ajusta a los objetivos empresariales es igual de importante.
La identidad es un ejemplo evidente. El NCSC recomienda asignar identidades diferenciadas a los agentes en lugar de permitir que se diluyan entre las cuentas humanas o de servicio que los rodean. Y lo que es más importante, asignar identidades diferenciadas a los agentes permite monitorizar su comportamiento de forma independiente.
Supuestos de desarrollo frente al comportamiento en el mundo real
El mismo principio se aplica también a la monitorización. La guía del NCSC sitúa la actividad de los agentes dentro de las operaciones de seguridad habituales, en lugar de tratarla como una función independiente de gobernanza de la IA. Muchos de los controles descritos se implementan antes de que un agente empiece a operar. El Sandboxing, el diseño de credenciales, los flujos de trabajo de aprobación y la supervisión humana reflejan decisiones sobre cómo se espera que se comporte el sistema y qué riesgos es probable que genere.
El uso real puede cuestionar esas suposiciones. Los patrones de acceso cambian. Los flujos de trabajo se amplían. Los sistemas empiezan a interactuar con recursos que nunca antes habían tocado. Procesos que parecían razonables durante el diseño se comportan de forma diferente en producción. Los requisitos de supervisión humana pueden resultar excesivos o insuficientes una vez que el sistema funciona a escala y opera en el contexto de procesos empresariales específicos.
La declaración de Five Eyes apunta a un problema similar: las organizaciones necesitan confiar en que los controles sigan funcionando según lo previsto cuando los sistemas se exponen a usuarios reales, datos, herramientas y presiones operativas. A menudo, la cuestión no es si un agente tiene técnicamente permiso para realizar una acción, sino si su comportamiento sigue siendo coherente con la función que debía desempeñar.
La supervisión y la gobernanza de los agentes de IA van de la mano
Este problema es precisamente la razón por la que la monitorización y la gobernanza deben tratarse como parte del mismo proceso. La gobernanza establece los parámetros iniciales para el despliegue, mientras que la monitorización aporta pruebas que permiten determinar si esos parámetros siguen siendo adecuados. Esa evidencia debería, a su vez, orientar los cambios en los permisos, los controles y la supervisión.
Esto cobra cada vez más importancia a medida que los sistemas autónomos se integran en los procesos empresariales. El riesgo pertinente no depende únicamente del modelo o del agente en sí, sino también de a qué puede acceder, qué acciones puede llevar a cabo y cómo cambia su comportamiento en la práctica.
Desarrollo de una supervisión continua del comportamiento de los agentes de IA
La implicación está clara: la gobernanza no puede terminar con la implementación. Las organizaciones necesitan una forma de comprender cómo se comportan los agentes tras la implementación, comprobar si los controles siguen siendo adecuados y ajustarlos a medida que cambian las condiciones. Eso requiere visibilidad no solo de la actividad técnica, sino también de si dicha actividad tiene sentido en el contexto del proceso empresarial al que el agente debe prestar apoyo.
Aquí es donde la seguridad conductual centrada en el negocio puede ser fundamental. El riesgo no surge del propio modelo, sino de las acciones que lleva a cabo un sistema autónomo dentro de la empresa y de las consecuencias derivadas de esas acciones.
Un agente puede funcionar exactamente según lo previsto y aun así generar riesgos si accede a información confidencial en un contexto inesperado, utiliza permisos de formas que generan una exposición no deseada o influye en procesos empresariales de maneras que no se anticiparon durante el diseño y la revisión.
Gobernanza tradicional frente a seguridad basada en el comportamiento
Los marcos tradicionales de gobernanza ofrecen garantías en un momento determinado. La seguridad basada en el comportamiento permite mantener una visibilidad continua de cómo interactúan los sistemas autónomos con las organizaciones a las que prestan servicio. En lugar de centrarse exclusivamente en el rendimiento del modelo o en el cumplimiento de las políticas, las organizaciones deben comprobar si el comportamiento de un agente se ajusta a los objetivos empresariales, las expectativas operativas y los niveles de tolerancia al riesgo aceptables a medida que cambian las condiciones.
A medida que las empresas pasan de implementaciones aisladas de IA a ecosistemas interconectados de agentes, la visibilidad del comportamiento cobra tanta importancia como la visibilidad del código. La gobernanza determina qué tiene permitido hacer un sistema autónomo. El Análisis de comportamiento ayuda a determinar qué está haciendo, qué resultados empresariales está generando y si esos resultados siguen alineados con los objetivos de la organización.
[related-resource]
Proteja su adopción de la IA
Guía práctica para proteger implantaciones de LLM, flujos de trabajo integrados con IA y sistemas basados en agentes, con controles de riesgo de IA.




















