Con Einstein Copilot, Salesforce combina IA generativa y gestión avanzada de la interacción con el cliente, al tiempo que introduce nuevos desafíos de ciberseguridad. Por lo tanto, garantizar un control estricto del acceso y los permisos, así como un análisis de riesgos continuo, es crucial para proteger esta prometedora tecnología.
Con la llegada de Salesforce Einstein Copilot, la inteligencia artificial generativa promete transformar profundamente las interacciones de las empresas con sus clientes, mejorando significativamente la productividad de los equipos de ventas, marketing y atención al cliente. Este nuevo copiloto conversacional promete ser una verdadera ventaja para optimizar la gestión de las tareas diarias, desde el análisis de datos hasta la creación de informes en lenguaje natural.
Sin embargo, como toda revolución tecnológica, Einstein Copilot plantea nuevos desafíos en materia de ciberseguridad. Es esencial que las empresas sean conscientes de los riesgos potenciales y establezcan medidas de protección adecuadas para garantizar que esta nueva IA sea una palanca de rendimiento y no una puerta de entrada a los ciberataques.
La arquitectura segura de Einstein: la capa de confianza como baluarte
Salesforce presentó Einstein Trust Layer, un marco seguro que garantiza que los datos de los clientes estén protegidos. Este modelo garantiza que toda la información que pasa a través de Einstein Copilot esté cifrada y que los datos confidenciales, como la información personal o financiera, estén enmascarados para evitar la explotación maliciosa. También es tranquilizador que Salesforce se comprometa a no utilizar datos de clientes para entrenar sus modelos de IA, reduciendo significativamente el riesgo de fugas de datos o ventas.
Pero, aunque esta infraestructura segura proporciona una base sólida, es fundamental recordar que la seguridad de Salesforce Einstein Copilot se basa en un modelo de responsabilidad compartida. Salesforce proporciona seguridad a la plataforma, pero depende de las empresas garantizar que sus datos y usuarios estén configurados y seguros de forma adecuada.
Permisos y gestión de datos: cuestiones críticas
Una de las principales vulnerabilidades radica en los permisos y el acceso a los datos. Einstein Copilot depende de los permisos de cada usuario para acceder a la información y generar respuestas. Si los permisos no se definen rigurosamente, cualquier usuario podría tener acceso a datos sensibles que no son necesarios para su trabajo. Para evitar esto, es fundamental bloquear los permisos y definir con precisión quién puede acceder a qué datos.
Esta tarea es particularmente compleja en grandes empresas, donde existen cientos o incluso miles de conjuntos de permisos. La clave está en una comprensión y un análisis detallado de estos permisos, lo que puede representar un desafío considerable para los equipos de seguridad. Aquí es donde entran en juego soluciones como la plataforma Varonis, que ayuda a simplificar el análisis de permisos, detectar configuraciones críticas y gestionar riesgos relacionados con aplicaciones de terceros.
Datos limpios y actualizados: la base de una IA eficaz
Einstein Copilot es una IA que aprovecha la riqueza y calidad de los datos internos de la empresa para dar respuestas relevantes y evitar las famosas “alucinaciones” de los modelos generativos. Por lo tanto, es crucial garantizar que la información explotada por la IA no sólo sea segura, sino también actualizada, precisa y relevante. La limpieza periódica de datos no solo garantiza respuestas de calidad, sino que también reduce los riesgos asociados con la gestión de datos obsoletos o incorrectos.
Anticipar ataques de inyección rápida y otras vulnerabilidades
La adopción de IA generativa también expone a las empresas a riesgos específicos, como ataques de inyección rápida, donde un actor malintencionado podría manipular la IA para obtener respuestas que no debería proporcionar. Por tanto, es fundamental definir salvaguardas sólidas, como ofrece Salesforce con su Prompt Builder, para garantizar que los usuarios generen consultas adecuadas que respeten las reglas de seguridad internas.
Preparándose para la adopción segura de Einstein Copilot
La integración de Salesforce Einstein Copilot representa una oportunidad invaluable para las empresas. Sin embargo, debe ir acompañado de una mayor vigilancia en lo que respecta a la seguridad de los datos. Las empresas deben tener una visión completa de su postura de seguridad en Salesforce, identificando y remediando vulnerabilidades antes de que se conviertan en puertas de entrada para ataques cibernéticos, y garantizar que la IA generativa se convierta en un activo real en su estrategia digital.
____________________________
Par Jérôme SoyerVicepresidente de Preventas, Europa Occidental en Héroe
Lea también:
Las vulnerabilidades en el código Apex podrían provocar la pérdida de datos de Salesforce
DSPM y seguridad de los datos en la nube: el caso de las empresas francesas
Fortalecer la integridad de los datos para proteger nuestras administraciones
Microsoft y Salesforce chocan en el campo de la IA generativa
[
