Agentes de IA, acceso de backend, permisos extendidos, etc. La adopción masiva de IA generativa multiplica el riesgo de compromiso. A medida que las empresas implementan aplicaciones generativas de IA, la protección de la infraestructura de backend se convierte en un problema aún más crítico que antes. ¿Cuáles son las prioridades estratégicas de ciberseguridad para implementar para los backends de IA?
Según el reciente barómetro europeo sobre la inteligencia artificial de Unir fuerzas y atreverseEl 88 % de las empresas planean aumentar sus inversiones en inteligencia artificial (IA) en los próximos 12 meses. Esta estadística demuestra claramente el desarrollo actual de la IA generativa. Las empresas también usan más y más aplicaciones que lo usan; Sin embargo, esta sed de innovación lleva a muchos funcionarios a comprometerse con la seguridad. Además, los ataques cibernéticos también explotan la IA generativa en sus actividades maliciosas, lo que les permite llevar a cabo ataques más frecuentes, con un impacto potencial de alto escala.
Para enfrentar estos desafíos, asegurar aplicaciones comerciales utilizando IA generativa requiere la implementación de sistemas de control centrados en la protección de la infraestructura de TI. De hecho, las últimas aplicaciones de host y les dan acceso a grandes cantidades de datos internos. La adopción de ciertos principios de seguridad fundamentales será esencial para permitir a las empresas implementar sus aplicaciones con confianza.
Ai evoluciona hacia agentes especializados
Después de haberse limitado a un papel de asistente y herramienta para crear contenido, la IA generativa está en camino a producir agentes independientes capaces de tomar decisiones y llevar a cabo acciones en su nombre. Todavía se usan poco en los principales entornos de producción, pero muchos analistas proporcionan su rápida adopción en el futuro cercano, en vista de las ventajas que pueden proporcionar a las empresas. Esta perspectiva plantea importantes problemas de seguridad, en particular con respecto a la gestión de las identidades de la máquina (agentes de IA), cuyos comportamientos a veces son impredecibles.
Con el surgimiento de los agentes de IA, las empresas tendrán que enfrentar la complejidad implícita por la aseguramiento de estas identidades a gran escala. En la parte superior de las prioridades se encuentra la autenticación de los agentes de IA con varios sistemas, la gestión y limitación de sus permisos y el control de su ciclo de vida para evitar que los agentes infiltrados mantengan acceso no necesario. Además, las empresas tendrán que verificar que los agentes de IA cumplan las funciones que brindan los servicios que los emplean.
Las buenas prácticas para adoptar para integrar a los agentes de IA en sistemas comerciales seguros surgirán gradualmente sobre la evolución de estas tecnologías. Sin embargo, la seguridad de la infraestructura de backend, en la que se basan las implementaciones genetivas de IA, actúa como requisitos previos necesarios antes de cualquier ejecución de agentes de IA en una plataforma.
Nuevos desafíos para asumir
Las tecnologías seguras como IA generativa representan un desafío sustancial, dada la multiplicación actual de nuevos tipos de servicios. Sin embargo, como en cualquier período de intensa innovación, los controles y las prácticas de seguridad deben adaptarse constantemente para dominar estas herramientas tan pronto como se implementen. De hecho, las aplicaciones controladas por la IA generativa se basan en sistemas y bases de datos subyacentes, lo que expone a las empresas que las usan para ataques potencialmente devastadores sin una infraestructura de seguridad sólida.
Muchas identidades requieren acceso al backend, y cada una representa un objetivo privilegiado para los piratas informáticos, porque el robo de identidad sigue siendo el método principal utilizado para acceder ilegalmente a los sistemas y datos confidenciales. Por lo tanto, las empresas deben asegurar imperativamente estas identidades, sus roles y sus permisos. Para hacer esto, pueden confiar en las mismas buenas prácticas que proteger otros entornos, en particular la infraestructura de la nube, donde se implementarán la mayoría de los componentes de IA generativos.
Las diferentes identidades se benefician de los altos niveles de privilegios en la infraestructura que aloja aplicaciones generativas de IA. Cualquier caso de usurpación de estas identidades y omitiendo el mecanismo de autenticación abrirá una gran superficie de ataque y un acceso múltiple a un actor malicioso.
Sistemas de control efectivos para la seguridad de la identidad
Los usuarios con altos privilegios no se limitan a los equipos de TI y especialistas a cargo de la explotación de la nube que configuran y administran la infraestructura y el acceso. También incluyen usuarios profesionales responsables de analizar las tendencias en los datos, proporcionar su experiencia y proporcionar validaciones. Los expertos en datos también a menudo tienen altos niveles de privilegios, desarrollar modelos, preparar conjuntos de datos y analizarlos. Los desarrolladores e ingenieros de DevOps, que administran las bases de datos y, con los equipos de TI, son responsables de la implementación y actualización de la infraestructura de backend, se encuentran en una situación similar.
Una identidad como desarrollador usurpado puede otorgar a un hacker acceso a privilegios en la lectura y escritura a los estándares de código, nubes centrales de infraestructura en la nube y datos confidenciales de la empresa.
Además, la infraestructura generativa de IA contiene una gran cantidad de identidades de máquina que permiten sistemas, aplicaciones y scripts acceder a recursos. Este último permite procesar los datos e implementar controles de acceso y seguridad, por ejemplo. La mayoría de los entornos modernos de TI y nubes también tienen más máquinas que identidades humanas.
Ante tales desafíos, las empresas deben aplicar una política de confianza cero que ya comience desde el principio de que ocurrirán los intentos de intrusión. Los controles de seguridad deben ir más allá del marco de la autenticación y los sistemas basados en roles (RBAC) para garantizar que una cuenta de compromiso no dé lugar a la apertura de una gran superficie de ataque.
Para planificar su enfoque para la implementación de seguridad y privilegios, las organizaciones pueden anticipar que los proyectos relacionados con la IA generativa se beneficiarán de una gran visibilidad dentro de ellos. Sin embargo, los equipos de desarrollo a veces perciben estos controles de seguridad como obstáculos, y esta complejidad aumenta debido a la necesidad de asegurar muchas identidades con perfiles dispares, cada uno que requiere diferentes niveles de acceso y uso de herramientas e interfaces específicas. Como resultado, los controles aplicados deben evolucionar y adaptarse a la experiencia del usuario, sin tener ningún impacto en su productividad y su rendimiento.
Asegure la infraestructura de back -end de las aplicaciones utilizando IA generativa representa un desafío importante para todas las empresas que las usan. Esto afecta una gran cantidad de identidades, especialmente máquinas, y requiere una estrategia de defensa equilibrada y efectiva, pero también fácil de usar. Sin embargo, las empresas que enfrentarán directamente este problema y que lo convertirán en un pilar central de su sistema de seguridad, al invertir el tiempo y los recursos necesarios, no solo proporcionarán su presente sino que también preparará un futuro sereno.
____________________________
Par Yuval MossVP Solutions, Global Strategic Partners Chez Cibangark
Leer también:
Adopta con éxito la IA generativa …
Identidades de la máquina, en el corazón de las estrategias de fideicomiso cero …
En pastelería y ciberseguridad, ¡todas las capas son esenciales!
AI, herramienta de ciberdelincuentes en nuevos tipos de ataques …
El mito moderno del administrador de la red y las teclas de esqueleto …
[
