Entre las indicaciones habladoras, la Sombra IA y el código generado en la mosca, las identidades de la máquina proliferan a una velocidad loca, a menudo sin salvaguardas adaptadas para evitar la exposición masiva de secretos. Con agentes de IA capaces de actuar sin supervisión, cada clave de API olvidada o cada secreto secreto secreto se convierte en una falla potencial lista para ser explotada.
No es coincidencia que las identidades de la máquina (identidades no humanas-NHI) estén atrayendo cada vez más atención, mientras que las herramientas basadas en IA y los agentes autónomos se adoptan rápidamente. De hecho, esto es en parte lo que explica la explosión de NHIS en la empresa. Esto ha despertado muchas investigaciones y discusiones sobre la identidad y la gobernanza de las identidades de la máquina.
Como usuarios humanos de sistemas, NHI, como agentes de IA, robots, scripts y cargas de trabajo en la nube, trabajar usando secretos. Estos identificadores permiten el acceso a sistemas y datos confidenciales. Pueden tener muchas formas y siempre deben tenerse en cuenta, desde su creación hasta su eliminación. A diferencia de los humanos, las máquinas no pueden usar autenticación multifactorial o contraseñas, y los desarrolladores pueden generar cientos de estos identificadores como parte de sus aplicaciones de implementación.
La tasa de adopción de IA en las empresas fue muy rápida, lo que llevó a los desarrolladores a implementar NHI más rápido que nunca. La IA ofrece la posibilidad de lograr mucho más efectivamente, pero también incluye riesgos reales en términos de confidencialidad, exposición de secretos y código no garantizado. Hay increíbles casos de uso para LLM, pero debemos recordar que, como para cualquier tecnología, cuantos más elementos agregamos a nuestro entorno, más la superficie de ataque está creciendo. Esto es particularmente cierto cuando damos poder a estos agentes de IA.
Los riesgos de las identidades de la máquina vinculados a la IA
Les agentes d'aia et les secretos de l'aia
Los «agentes de IA» son sistemas basados en un LLM que deciden independientemente en la manera de realizar una tarea específica. Estos no son los robots deterministas que hemos estado utilizando durante años con muchos flujos de trabajo, lo que solo puede ejecutar las instrucciones específicas que el desarrollador ha definido paso a paso. Estos agentes de IA pueden acceder a fuentes de datos internas para buscar información, realizar búsquedas en Internet e interactuar con otras aplicaciones en nombre del usuario.
Por ejemplo, un agente de suministros alimentado por IA podría analizar las necesidades de compras, comparar proveedores en sitios de compra en línea, negociar precios con chatbots de IA e incluso hacer pedidos de forma independiente si se autoriza. Cada comunicación segura requiere identificadores de acceso. Este nuevo agente se produce a través de un proceso DevOps, que requiere aún más autenticación en la tubería. Los identificadores a menudo, y accidentalmente, se filtran en sistemas, periódicos y depósitos de código durante el camino.
Es muy común otorgar a los agentes que leen autorizaciones, escritura e incluso creación y eliminación más amplias que las que otorgaríamos a robots deterministas. Para los trabajadores tradicionales, definimos los sistemas a los que pueden o no pueden acceder en el lugar de trabajo que les confía. Dado que los agentes de IA son libres de determinar la mejor manera de hacer el trabajo sin supervisión directa, bloqueamos el trabajo solicitado si limitamos su acceso demasiado estrictamente. Las autorizaciones de lectura y escritura requeridas pueden no ser claras desde el principio, y muchos equipos cometen el error de ser demasiado permisivos.
La fuga de una de las muchas claves involucradas podría conducir a una violación de datos o compras no autorizadas, entre otros riesgos. A Gobernanza sólida de las identidades de la máquina es esencial para asegurar estos agentes de IA. Para todos los identificadores conocidos y correctamente almacenados en las cajas fuertes, debe dar acceso con la menor cantidad de privilegios posible, la protección de las claves API y la periodización de auditorías para evitar cualquier explotación. La estrategia de la organización también debe tener en cuenta los secretos que sin duda también se encontrarán fuera de las cajas fuertes.
Llaves de la API huérfana
Una clave de API huérfana es una clave API que ya no está asociada con una cuenta de usuario. Esto sucede cuando un usuario deja una empresa o elimina su cuenta. Todas las claves API que ha creado siguen siendo válidas, pero ahora nadie las tiene y, a menos que se registren correctamente, probablemente nunca se renovarán o eliminarán.
En el mundo de las identidades de la máquina, la cuestión de quién pertenece a un NHI es delicada. ¿Es la persona que lo creó? ¿A un equipo de DevOps dedicado? Sin una propiedad clara, la probabilidad de que un identificador se vuelva huérfano y se olvide, mientras que siempre permite el acceso es muy alta.
¿Una mejor pregunta sería saber quién pertenece al riesgo asociado con una violación causada o facilitada por estas claves API?
Arquitectura basada en indicaciones y exposición de datos confidenciales
Cuando pensamos en un asistente de IA, inmediatamente pensamos en actores como ChatGPT, Gemini y Claude, quienes usan arquitecturas basadas en el aviso. Copiloto de GitHub también. Los modelos AI procesan, almacenan y transmiten información confidencial a través de la solicitud, enviando contexto, comandos y datos a un proveedor de modelos de lenguaje amplio (LLM). Este enfoque hace que estas herramientas sean excepcionalmente fáciles de usar, lo que permite la prototipos rápidos y el desarrollo de herramientas.
Esto no se limita a los equipos de desarrollo. De hecho, la sombra que representa la mayoría de los gastos de TI en muchas organizaciones, los riesgos reales de exposición a los datos, datos comerciales patentados y la fuga de información de identificación se extienden en toda la empresa.
Por ejemplo, si un equipo financiero usa un chatbot Ai para automatizar el procesamiento de facturas, y su aviso contiene para encontrar todas las facturas de más de $ 100,000 en los últimos 6 meses utilizando la clave API ABC123, esta clave API probablemente se registra. Si estos periódicos quedan claros, permitirían a un atacante acceder a este sistema de facturación sin autorización. Tienes que esperar que esta clave sea delimitada correctamente.
Se deben establecer medidas de protección para evitar que los desarrolladores y todos los usuarios integren datos confidenciales en indicadores y periódicos. Idealmente, cada salida de LLM se puede analizar para detectar información que no debería estar allí. Si puede ser difícil definir qué datos devueltos son confidenciales, encontrar y eliminar los secretos deben ser simples y prioritarios.
Agentes de IA y riesgos relacionados con la recopilación de datos
Los agentes de la IA ingieren, procesan y a menudo almacenan datos de varias fuentes, incluidas:
– Almacenamiento en la nube, como AWS S3 y Google Drive.
– Aplicaciones comerciales, como Jira, Confluence y Salesforce.
-Los sistemas de mensajería, incluidos los equipos Slack y Microsoft.
Las organizaciones deben esforzarse por mantener toda la información confidencial, como identificadores, información personal identificable u otros datos privados, fuera de estos sistemas. Si un agente de IA puede acceder a los datos en estos sistemas, entonces también existe la forma en que un atacante abuse de estas identidades de la máquina.
La única forma segura de eliminar este vector de ataque es encontrar y renovar todas las claves que se encuentran en todos los sistemas internos alrededor de todos los agentes de IA. Esto incluye sistemas de control de versiones, sistemas de boletos y plataformas de mensajería. Asociado con una buena limpieza de periódicos, esto puede ayudar enormemente a mantener sus secretos secretos.
Código generado por IA y secretos integrados
Las herramientas de desarrollo basadas en AI como GitHub Copilot, Amazon Codewhisperer y Tabnin han experimentado una rápida tasa de adopción. Hoy, más del 50 % de los desarrolladores usan co -pilotos de IA para ayudarlos a codificar. Estas herramientas generan automáticamente extractos de código de grandes cantidades de datos de aprendizaje. Sin embargo, esto introduce un riesgo importante de seguridad, porque el código generado por la IA puede engañar a un desarrollador y alentarlo a secretos secretos de bacalao, como claves API, identificadores de bases de datos e incluso tokens OAuth.
Para ilustrar un riesgo generado por AI, imagine que un desarrollador le pide a Copilot que genere una llamada API a un servicio en la nube, y que produce:
# Exemple d'appel API vers un service Cloud en Python
import requests
API_KEY = "sk_live_ABC123XYZ"
response = requests.get("https://api.example.com/data", headers={"Authorization": f"Bearer {API_KEY}"})
Este ejemplo de código fue producido por ChatGPT.
Aunque no es una clave real, un desarrollador presionado por el tiempo o que no está familiarizado con la seguridad de los secretos podría simplemente intercambiar una clave real a la generada. Si no se hace nada, este código puede validarse en los sistemas de control de versiones, lo que expone a los identificadores a los atacantes que acceden a él o a cualquier persona si el depósito se vuelve público.
Este esquema explica en parte por qué la proliferación de secretos ha seguido empeorando con el tiempo.
El camino a seguir: identidades seguras de la máquina
Educación y conciencia
El primer paso para mitigar estos riesgos es educar a los desarrolladores y equipos de seguridad sobre los peligros vinculados a la exposición de secretos a LLM. Las organizaciones deben:
– Entrenadores de desarrolladores a riesgo de compartir código que contengan secretos con LLM
– Desarrolle políticas claras sobre lo que se puede compartir con los asistentes de IA
– Conocimiento de la importancia del almacenamiento seguro de secretos
Implementación de soluciones técnicas
Varios enfoques técnicos pueden ayudar a asegurar las identidades de la máquina en la era de la IA:
– Detección automatizada de secretos: Use herramientas para analizar el código antes de compartirlo con LLM
– Gestión centralizada de secretos: Almacenar secretos en cofres dedicados en lugar de en el código
– Rotación de identificadores regulares: Limite el período durante el cual se puede explotar un secreto de compromiso
– Establecimiento del principio del menor privilegio: Limite el acceso a cada identidad de la máquina
Adopción de un enfoque proactivo
Las organizaciones deben integrar la seguridad de las identidades de la máquina en su estrategia general de ciberseguridad:
– Incluir riesgos de LLM en evaluaciones de seguridad
– Monitorear activamente actividades sospechosas vinculadas a las identidades de la máquina
– Configurar controles preventivos y mecanismos de detección
– Desarrollar planes de respuesta a incidentes específicos para compromisos de identidad de la máquina
A medida que AI continúa integrándose en los procesos de desarrollo de software, la seguridad de las identidades de la máquina se convertirá en un pilar fundamental de cualquier estrategia de ciberseguridad. Al comprender los riesgos y la adopción de un enfoque proactivo, las organizaciones pueden continuar beneficiándose de las ventajas de la IA al tiempo que protegen su información de identificación más sensible.
El equilibrio entre innovación y seguridad requerirá una vigilancia constante, políticas adecuadas y el uso de herramientas especializadas para detectar y prevenir fugas secretas en este nuevo contexto tecnológico.
____________________________
Par Dweyne MallanielDesarrollador y abogado de ciberseguridad Chez Gitguardiano
Leer también:
Asegurar las identidades de la máquina implica una mejor gestión de secretos …
Lecciones para aprender de CyberAt Attack XZ Util …
Ciberseguridad 2024: ¿Qué queremos decir para la seguridad de la cadena de suministro de software?
Gitguardian lanza Hasmysecretleked para proteger los secretos corporativos
Seguridad de la aplicación: el nuevo segmento de detección secreta
[
