La IA agente está todavía en su infancia. Pero si las organizaciones quieren aprovechar su capacidad de actuar con una supervisión mínima, deben controlar los riesgos. Para lograrlo, pueden confiar en particular en un enfoque Zero Trust.
Desde el lanzamiento de ChatGPT hace tres años, la inteligencia artificial generativa se ha vuelto popular. Las innovaciones que lo rodean están cambiando gradualmente nuestra vida diaria.
Como prueba, el nuevo agente de IA ChatGPT, del líder OpenAI, promete “gestionar tareas de principio a fin” en nombre de sus usuarios. Autonomía de los sistemas y modelos de IA que se hace necesario supervisar para anticipar el riesgo. El desafío será dar a los empleados los medios para explotar esta tecnología, sin exponer a la empresa a un nuevo tipo de amenaza.
Grandes avances pero riesgos emergentes
La IA agente es atractiva gracias a su autonomía y sus capacidades de planificación, razonamiento y acción proactivas, especialmente para realizar las tareas más complejas. Gartner también predice que para 2029, la IA agente “ resolverá de forma autónoma el 80 % de los problemas comunes de servicio al cliente, sin intervención humana, lo que dará como resultado una reducción del 30 % en los costos operativos. ».
Sin embargo, estas capacidades que hacen que la IA agente sea tan prometedora para las empresas también deberían considerarse una fuente potencial de riesgo.
La IA agente constituye un nuevo sesgo de ataque para actores maliciosos en varios niveles. Con un control reducido, los actores maliciosos podrían secuestrar las acciones de un agente de IA sin despertar sospechas entre los usuarios. Y dado que estos agentes tienen la capacidad de tomar decisiones con consecuencias irreversibles, por ejemplo, eliminar archivos o enviar correos electrónicos a destinatarios equivocados, el daño podría ser considerable si no se integran salvaguardas.
Además, la capacidad de los agentes para planificar y razonar en múltiples contextos aumenta las posibles superficies de ataque, particularmente a través de técnicas como la inyección inmediata indirecta. En concreto, basta con que un agente de IA consulte una página web que contenga instrucciones (potencialmente ocultas, ofuscadas) para manipular su comportamiento durante el proceso de inferencia de contenido (incluidas estas instrucciones) (ver estudio de Trend Micro).
Dada su profunda integración en los sistemas de TI, los agentes de IA representan un mayor riesgo de comprometer cuentas o datos confidenciales. Además, su capacidad para conocer los hábitos y preferencias de los usuarios plantea importantes cuestiones en términos de confidencialidad y protección de datos.
El desafío de actuar en varios niveles
Para abordar estos desafíos es necesario centrarse en la gestión de identidades y accesos. Es necesario que al agente se le asigne identidad propia y que se limiten sus autorizaciones a la sola ejecución de su trabajo.
Agentes como ChatGPT son versátiles y capaces de actuar en múltiples sistemas: programación de reuniones, envío de correos electrónicos, automatización de procesos, etc. Esta flexibilidad lo convierte en un recurso poderoso, pero también en un vector de ataque adicional. Si un agente se ve comprometido, derechos de acceso demasiado amplios podrían permitir que un atacante se mueva fácilmente por el entorno de TI de la organización y cometa delitos a voluntad.
Para mejorar la postura de seguridad de un ecosistema de agentes de IA, sería bastante espontáneo avanzar hacia un enfoque tradicional orientado al usuario. Sin embargo, la autenticación multifactor ofrece muy poca seguridad adicional en el contexto de un agente de IA comprometido. Por otro lado, la supervisión humana puede servir como un segundo nivel de verificación, particularmente para acciones sensibles. El desafío será encontrar el equilibrio adecuado entre automatización y control humano. Al pedirle al usuario que verifique demasiado, corre el riesgo de aburrirse y aprobar sistemáticamente, a riesgo de ser engañado.
El compromiso de los sistemas y modelos de IA capaces de actuar de forma autónoma supone un nuevo riesgo para las organizaciones, que podría poner en peligro su negocio si no están preparadas ni equipadas. Con la adopción de agentes de IA, su modelo de seguridad necesariamente deberá evolucionar hacia una visibilidad total de la actividad de los agentes. El desafío será monitorear, a través de un sistema confiable, las acciones de los agentes y monitorear cualquier comportamiento inusual para poder actuar y remediarlos. Un elemento estructurante del enfoque Zero Trust que constituye un activo esencial tanto para la seguridad como para la responsabilidad corporativa.
____________________________
Par David Koppexperto en ciberseguridad – Tendencia Micro
Lea también:
La llegada de la IA agente está cambiando las cartas en la lucha contra el fraude…
IA agente en el corazón de la transformación de TI…
IA agente: hacia una supervisión TI proactiva y autorreparable…
Trend Micro confía en gemelos digitales para fortalecer la ciberresiliencia
SIEM e IA: Trend Micro reinventa el análisis y la detección de amenazas con su Agentic SIEM
Cybertron, el LLM de Trend Micro que revoluciona la ciberseguridad
[
