Cuando los agentes de IA comiencen a decidir, actuar y reclutar para nosotros, la seguridad ya no podrá limitarse a buenos reflejos humanos. Entre la gobernanza, la supervisión y las salvaguardas técnicas, este artículo explora el nuevo equilibrio que se debe inventar para mantener el control en el espacio de trabajo digital.
Moltbook, garra abierta y RentaHumanoTres plataformas lanzadas a principios de 2026 ofrecen una visión general sorprendente y preocupante del emergente mundo del trabajo. Los agentes de inteligencia artificial interactúan entre sí, actúan de forma autónoma en el mundo real y reclutan humanos para realizar tareas físicas. En este entorno digital, la distribución de tareas, el control y la autonomía se reconfigura profundamente, rediseñándose los procesos y métodos operativos de las organizaciones.
Este cambio requiere que reconsideremos fundamentalmente nuestra comprensión del trabajo. Más allá de las tareas mismas, lo que se debe revisar son las prácticas, los valores y las expectativas sociales que estructuran la acción colectiva. La cultura de la seguridad, en particular, experimentará una profunda transformación. Esta transformación debe llevarse a cabo con extrema vigilancia para promover comportamientos seguros y sentar las bases de una gobernanza sólida.
Durante décadas, la ciberseguridad se ha basado en un principio simple: las personas siguen siendo el centro de las decisiones. Se han diseñado políticas de seguridad, programas de concientización y mecanismos de control basados en el comportamiento humano. De este modo, se construye una cultura de seguridad a través de la observación mutua, la transmisión de buenas prácticas, la responsabilidad del equipo y la existencia de estándares compartidos.
La aparición de la IA agente altera este equilibrio.
Un agente de IA no tiene conciencia de las consecuencias de sus acciones ni se adhiere a valores o reglas implícitos. Su comportamiento depende de las instrucciones que recibe, de los datos a los que accede y de los objetivos que tiene asignados. Su «motivación» se reduce a una indicación. Su entorno de trabajo escapa a la observación humana y sus decisiones se toman a una velocidad incompatible con cualquier supervisión manual.
Por tanto, la forma de pensar sobre la seguridad debe evolucionar. Donde los humanos pueden ser conscientes, supervisados o empoderados, los agentes autónomos requieren salvaguardias técnicas: limitación de permisos, validación de acciones sensibles, auditabilidad, supervisión continua, controles estructurales. Sin embargo, la cultura de la seguridad no desaparece; está duplicado y ahora debe operar simultáneamente en dos niveles: humano y algorítmico.
Este cambio ya está en marcha.
Desde 2022, las denuncias han aumentado: los conductores de plataformas de vehículos compartidos y los repartidores están siendo explotados sin su conocimiento para transportar drogas, dinero en efectivo o armas. La arquitectura de la plataforma oscurece la observabilidad y diluye la rendición de cuentas, mientras que la cultura de seguridad sólo persiste a través de prácticas informales entre los trabajadores.
En el otro extremo, la Sección 00 del Servicio Secreto Británico, tal como la imagina Ian Fleming, encarna la máxima agencia con una mínima observabilidad. James Bond actúa solo, a menudo de forma independiente. Si la observabilidad y la responsabilidad se limitan deliberadamente, la normatividad se basa en una fuerte identidad institucional, un punto de anclaje del que se ven privados los agentes de IA.
La aviación civil ofrece un tercer modelo. Un piloto de línea aérea, aunque altamente calificado y digno de confianza, opera en un entorno riesgoso. Por lo tanto, cada vuelo queda completamente registrado. La observabilidad está garantizada por los registradores, la normatividad por una formación rigurosa y procedimientos estandarizados, la responsabilidad por las licencias y los seguros.
Sin duda, es en esta lógica que debemos pensar en la actividad rutinaria de los agentes de IA: observabilidad a través de registros inmutables, normatividad a través de restricciones estructurales, responsabilidad de los humanos que diseñan y supervisan estos sistemas.
Sin embargo, la seguridad no puede ser únicamente técnica.
Sin embargo, a medida que los agentes autónomos se integran en operaciones críticas, esta gobernanza híbrida se vuelve más compleja. Las organizaciones deberán mantener una supervisión humana eficaz, garantizar una observabilidad técnica integral e imponer mecanismos de control rigurosos a los sistemas autónomos.
¿Dónde termina la cultura de seguridad y comienza la ingeniería de seguridad?
Durante mucho tiempo, las empresas han considerado la sensibilización de los empleados como la principal palanca para reducir el riesgo. Pero cuando los agentes toman decisiones y llevan a cabo tareas que antes eran humanas, esta palanca muestra sus límites. Un humano puede cuestionar, dudar, alertar. A veces un agente actúa de forma impredecible.
Los primeros experimentos lo confirman. El proyecto Vend de Anthropic demostró que un agente encargado de maximizar los beneficios de una máquina expendedora podía ceder a influencias externas y acabar fijando todos los precios en cero. Otros trabajos han destacado comportamientos que eluden los mecanismos de supervisión o la falsificación de documentos mediante ciertos modelos avanzados.
En este contexto, resulta ilusorio disociar inversiones técnicas y políticas de formación. Las organizaciones necesitarán articular tres niveles de gobernanza: salvaguardias técnicas para los agentes, mayor responsabilidad de los equipos humanos y un marco regulatorio capaz de abarcar simultáneamente a humanos y sistemas de inteligencia artificial.
¿Cuál es el “mínimo humano viable” para mantener una gobernanza eficaz?
Porque el riesgo no es sólo tecnológico. También es organizativo. Al delegar demasiado en sistemas autónomos, una empresa podría perder la comprensión de sus propios procesos. Preservar una base humana sólida, capaz de portar valores, observar las operaciones y comprender el trabajo de los agentes, se convierte entonces en una condición de control.
Cuando los agentes reclutan humanos, o los humanos ejecutan decisiones producidas por agentes sin mirar atrás, es el control mismo del sistema el que falla.
La cultura de la seguridad no desaparecerá en este lugar de trabajo digital. Pero cambia de naturaleza. Ya no puede ser únicamente social o conductual. Se convierte en un exigente equilibrio entre la gobernanza humana, la supervisión técnica y el control de los sistemas autónomos.
____________________________
Par Martín KraemerAsesor RSSI (asesor CISO), saberbe4
____________________________
Lea también
IA agente y ciberseguridad: cuando la autonomía se convierte a la vez en una amenaza y una defensa…
IA agente: cuando la autonomía de las máquinas redefine permanentemente el riesgo digital…
¿Los agentes de IA dañarán o fortalecerán su postura de seguridad?
IA agente: la nueva era de la IA empresarial, entre la autonomía controlada y el gobierno de datos…
Sobre la urgencia de una gobernanza transparente y humana de la IA…
Vistas de publicaciones: 279
[
