Un agente de IA que actúa sin identidad propia es una puerta abierta con privilegios. Con los agentes Zero Trust AI, la seguridad recupera el control de la autonomía del software antes de que se convierta en un riesgo comercial.
El auge de la IA agente representa una de las áreas de la tecnología más prometedoras y dinámicas en la actualidad. Estos agentes de IA, ya sean asistentes digitales del lado del usuario, herramientas de automatización alojadas en la red o servicios SaaS multiinquilino, son versátiles y capaces de orquestar acciones multisistema, con comportamiento no determinista y privilegios potencialmente elevados, en nombre de un usuario u organización.
Dicho esto, este poder e imprevisibilidad también constituyen un importante desafío para la seguridad, a menudo subestimado. Básicamente, los agentes no son más que cargas de trabajo: software que se ejecuta en algún lugar. Entonces, como profesionales de la seguridad, debemos tratarlos como tales, aplicando el mismo rigor en materia de autenticación y autorización que se ha desarrollado durante décadas para las cargas de trabajo tradicionales. Ignorar este principio y permitir que los agentes operen sin controles adecuados es realmente extremadamente peligroso.
Los peligros de la IA agente incontrolada
El principal problema con los agentes no controlados es que sus acciones a menudo son indistinguibles de las de los usuarios que los activan, a pesar de que tienen un nivel de acceso que podría llevar a compromisos catastróficos. Ya hemos desarrollado estándares y mejores prácticas, son el resultado de un trabajo profundo para asegurar los sistemas tradicionales. Ignorar el fruto de este trabajo en favor de un modelo agencial con comportamiento emergente, cuya variabilidad contextual complica los mecanismos de control y seguridad, es fundamentalmente irresponsable.
Muchos agentes se ejecutan directamente en los dispositivos de los usuarios. A menudo heredan de ellos el contexto completo y los derechos de acceso. En ausencia de una autenticación explícita del propio agente, la red percibe su tráfico saliente como procedente del usuario. Si el usuario es un empleado, sigue siendo legalmente responsable de la acción, pero en realidad es el agente que hizo clic en un enlace malicioso o compartió un archivo confidencial. Además, un agente puede acceder a todos los recursos accesibles al usuario: documentos internos confidenciales, mensajería corporativa y archivos personales. Si este agente se ve comprometido o realiza acciones fuera de su alcance debido a un comportamiento no determinista o controles insuficientes, puede provocar la filtración de datos confidenciales a destinos no autorizados.
Los agentes específicos de la organización, accesibles a múltiples usuarios, plantean un riesgo aún mayor: movimiento lateral y abuso de privilegios. Estos agentes suelen tener amplio acceso a los recursos de la empresa (herramientas, servicios y repositorios de datos) para poder realizar sus funciones. Por tanto, pueden eludir los mecanismos de autorización de los usuarios. Por ejemplo, se puede impedir que un empleado acceda a la información de recursos humanos de sus compañeros (nóminas, etc.). Sin embargo, si un agente actúa a petición de este empleado sin tener en cuenta sus autorizaciones limitadas, puede utilizar sus privilegios elevados para recuperar estos datos y transmitírselos. El agente se convierte entonces en un vector involuntario de escalada de privilegios, dando acceso a información explícitamente prohibida.
De cualquier manera, la falta de controles adecuados convierte una poderosa herramienta empresarial en un importante riesgo para la seguridad. Una IA agente incapaz de demostrar su identidad o la legitimidad de su acción constituye una carga de trabajo de alto riesgo lista para ser explotada.
Los siete pilares de la autenticación de agentes de IA
Los controles de seguridad necesarios pueden basarse en estándares probados, basados en los principios de Zero Trust, y se basan en siete componentes esenciales.
* Primero, cada agente debe teneruna identidad única y verificable : un «nombre» autenticado. Esto se puede lograr a través de estándares existentes ampliamente utilizados para la identidad de cargas de trabajo, como WIMSE (Workload Identity in Multi-Systems Environment).
* El próximo viene cartas credenciales : el agente debe poder demostrar la identidad que afirma, lo que implica la generación y gestión de claves digitales seguras y de corta vida útil. Estas claves deben almacenarse en entornos altamente seguros para evitar robos.
* La autenticación solo es efectiva si el agente se está ejecutando un entorno confiable. Por lo tanto, es necesario verificar que el agente se esté ejecutando en el dispositivo correcto y que su software no haya sido alterado. El aprovisionamiento consiste en asignar de forma segura una identidad al agente y emitir y renovar sus claves digitales durante su ejecución.
* Una vez identificado y aprovisionado, el agente debe estar autenticadoutilizando sus identificadores para demostrar su identidad ante otros sistemas. El método depende del entorno, con el uso de diferentes protocolos seguros para sistemas internos y para el tráfico web típico.
*Viene a continuación autorizaciónque puede confiar en el marco OAuth 2.0 para definir con precisión lo que el agente está autorizado a hacer. El acceso debe ser estrictamente limitado, específico a una acción, objetivo o destino, para evitar cualquier abuso de privilegios.
* Para cualquier acción sensible o de alto riesgo, un mecanismo Human-in-the-Loop (HitL) es esencial y requiere una validación explícita por parte del usuario.
* Finalmente, dada la imprevisibilidad inherente a la IA agente, supervisión es esencial. Los agentes deben registrar todas sus actividades, detallando sus acciones e, idealmente, las razones detrás de ellas. Este sistema de monitoreo y remediación es esencial para controlar un sistema complejo.
El imperativo de confianza cero
La implementación de este marco resalta la importancia crítica de un ecosistema Zero Trust para la IA agente. La seguridad no puede basarse únicamente en la supuesta confiabilidad del agente o en la correcta implementación de estándares.
Una plataforma de seguridad Zero Trust proporciona un conjunto de controles externos necesarios para proteger estas cargas de trabajo. Para agentes específicos de usuario, las capacidades de contextualización de endpoints permiten asignar acciones con precisión a una aplicación determinada, incluso si el agente está mal implementado.
Entonces es posible identificar que el tráfico no proviene solo de un empleado, sino de un empleado que utiliza un proceso específico que aprovecha un LLM para la toma de decisiones, lo que permite aplicar políticas de seguridad más estrictas.
Para los agentes organizacionales, una plataforma Zero Trust puede agregar controles contextuales y barreras de autorización, asegurando que los permisos de usuario específicos se pasen correctamente a través del agente al acceder a herramientas y datos, evitando la escalada de privilegios.
Finalmente, para los agentes SaaS multiinquilino, se deben aplicar sistemáticamente mecanismos de prevención de fuga de datos (DLP) y control de acceso, ya sea que el agente se considere “confiable” o no, para evitar cualquier fuga de información sensible, ya sea hacia el agente o de éste al usuario.
Asegurar el futuro de la IA agente
La IA agente no es una tendencia fugaz, sino una innovación fundamental que transformará profundamente las operaciones comerciales. Si bien las oportunidades de eficiencia y crecimiento son considerables, es imperativo garantizar que los avances tecnológicos no excedan las capacidades de seguridad.
Al adoptar ahora los principios probados de identidad de cargas de trabajo y Zero Trust, las organizaciones pueden sentar una base sólida. Este enfoque garantiza que todos los agentes de IA estén debidamente autenticados y autorizados explícitamente para cada acción que realicen, lo que reduce eficazmente el riesgo.
Esta transición ayuda a transformar el caos potencial de un entorno de IA no supervisado en un sistema controlado, predecible y seguro que genera un valor comercial significativo.
El futuro de la IA en los negocios hoy depende de un enfoque orientado a la seguridad.
____________________________________________
Par Yaroslav Rosomakhojefe científico chez zscaler
_____________________________
Lea también:
Zero Trust: un pilar para controlar los crecientes riesgos vinculados a la IA agente
Cuando los agentes de IA hacen obsoletos los modelos de acceso tradicionales
¿Los agentes de IA dañarán o fortalecerán su postura de seguridad?
Por qué la resiliencia cibernética debe extenderse más allá de los límites de la empresa
Zscaler refuerza su oferta para proteger la IA en las empresas
Vistas de publicaciones: 314
[
