La herramienta de conversación impulsada por inteligencia artificial (IA) ChatGPT causó revuelo a principios de 2023, alcanzando 100 milloness usuarios activos mensuales en enero y convertirse en la aplicación de consumo de más rápido crecimiento de la historia. Este pico de popularidad ha animado a las empresas a integrarlo en sus soluciones de TI para mejorar la experiencia de sus clientes y empleados. A pesar de estas ventajas, surgen muchos problemas de privacidad y protección de datos. De hecho, según un reciente estudiar de Ifop para Talan, el 68 % de los franceses que utilizan IA generativa en los negocios la ocultan a su superior jerárquico, lo que puede causar problemas en términos de credibilidad de la información transmitida, ciberseguridad y fugas de información.
Si las organizaciones optan por seguir las tendencias emergentes e integrar herramientas de inteligencia artificial en sus aplicaciones, deberán revisar sus sistemas de seguridad para evitar ponerse en riesgo.
Una carrera contra el tiempo
Para aumentar su productividad, cada vez más empresas utilizan herramientas de IA. Solo, aumenta las posibilidades de fugas de datos sensibles. En el caso de OpenAI, que por defecto almacena todas las conversaciones mantenidas en su plataforma, un ciberdelincuente que se infiltre en los sistemas tendría a su disposición posiblemente datos confidenciales de miles de usuarios y organizaciones. En marzo pasado, un error en ChatGPT, por ejemplo, filtró el historial de chat de algunos usuarios a otros. Desde este episodio, los datos solo se conservan durante 90 días y los usuarios también pueden eliminarlos del sistema.
La IA generativa es una tecnología que evoluciona rápidamente, pero las leyes que protegen a los usuarios son escasas. La ley de IA actualmente propuesta por la Unión Europea (UE) reconoce el impacto que podría tener en los derechos de los ciudadanos y por ello prevé que los órganos de control impongan el retiro de un sistema de IA, o su reclasificación, si se considera que presenta un alto riesgo Esta disposición agrega una capa adicional de protección al RGPD (Reglamento general de protección de datos) y garantiza que los sistemas de inteligencia artificial utilizados en la UE cumplan con los derechos humanos fundamentales. Sin embargo, aún no se ha abordado el tema del procesamiento y almacenamiento de datos por parte de las empresas que ofrecen servicios de IA. Sin embargo, esta tecnología se está desarrollando rápidamente y algunas organizaciones han tomado la iniciativa y han limitado el uso de herramientas de IA dentro de su estructura.
El surgimiento de la «IA en la sombra»
A medida que estas plataformas se vuelven cada vez más útiles para los profesionales de todos los sectores, se vuelve difícil prohibir por completo su uso dentro de las empresas. Como resultado, está surgiendo un fenómeno cada vez más común: “Shadow AI”. Se refiere a un uso desconocido y autorizado por parte de los equipos de TI de herramientas de IA generativa por parte de los empleados. En este contexto, los sistemas de seguridad de las organizaciones deben ser revisados para poder identificar y monitorear el flujo de datos desde y hacia la herramienta de inteligencia artificial. Si las empresas están integrando conscientemente estas tecnologías innovadoras, entonces vale la pena invertir en nuevas soluciones de seguridad en consecuencia, en lugar de prohibir el uso de la IA por completo.
Colaboración entre proveedores y equipos de ciberseguridad
Para proteger mejor sus sistemas, la colaboración entre empresas y proveedores es esencial. De hecho, una vez que los datos de la empresa se ingresan en las herramientas de IA, es fundamental que los equipos a cargo de la seguridad puedan localizarlos, conocer su período de retención y quién tendrá acceso a ellos. Además, se aseguran de que el uso de estas tecnologías de IA cumpla con las políticas de protección de datos de la organización y que los proveedores cumplan con estas directivas. Este año, por ejemplo, JP Morgan está restringiendo el uso de ChatGPT por parte de sus empleados, por incumplimiento de su protocolo de privacidad de datos de software de terceros.
Desde la irrupción de la nube, el tema de la protección de datos y la ciberseguridad permanece. Las organizaciones que pueden aplicar una política de uso y protección de datos integral y granular en sus aplicaciones están más preparadas en caso de una infiltración. Este enfoque es el modelo ideal para comprender mejor el funcionamiento y seguir el uso de la IA, aplicación por aplicación. Finalmente, mantener una cultura de vigilancia frente a las tecnologías “de moda” ayudará a comprender mejor los riesgos, al menos hasta que la Unión Europea establezca regulaciones.
____________________________
Par Neil ThackerCISO EMEA en netscope
Lea también:
Con Security Copilot, Microsoft pone la IA GPT-4 en el centro de la ciberseguridad
IBM QRadar Suite, una nueva suite de seguridad impulsada por IA
Google también está jugando la carta de IA generativa para la ciberseguridad
Veracode presenta GPT AI para corregir código vulnerable
5 conceptos erróneos comunes sobre el cambio de VPN a ZTNA
Ciberseguridad: las excepciones no deben convertirse en la regla…
Los CISO siguen buscando el reconocimiento al más alto nivel
[
