La adopción masiva de IA plantea problemas cruciales en términos de seguridad y ética. Para supervisar esta revolución tecnológica, la Unión Europea ha adoptado la Ley AI, un marco legal sin precedentes que tiene como objetivo introducir reglas armonizadas dentro de los Estados miembros para garantizar altos estándares para la calidad y seguridad de los sistemas de IA, al tiempo que promueve una adopción ética y responsable.
Un gerente de una IA responsable
Según una encuesta reciente, el 35 % de las empresas francesas ya usan soluciones de IA, y entre ellas, el 72 % señala una mejora en su productividad general. Para supervisar estos usos crecientes, la AI se basa en un enfoque de clasificación de riesgos. Esto distribuye los sistemas AI en cuatro categorías principales: por un lado, el riesgo inaceptable que prohíbe sistemas como la calificación social o ciertas formas de monitoreo de masas. EL alto riesgoPor otro lado, impone obligaciones estrictas, como el establecimiento de un sistema de gestión de riesgos, la gobernanza de los datos de capacitación y la vigilancia humana. En Francia, sectores como la salud, la educación y la seguridad pública se ven directamente afectados por estos requisitos. Finalmente, el Riesgo limitado que requiere obligaciones de transparencia y el Riesgo mínimo que no está cubierto por esta ley.
Desafíos para las empresas francesas
Para las empresas, incluidas las PYME, el cumplimiento de los actos de IA representa un desafío considerable. Los desarrolladores de IA de alto riesgo no solo tendrán que garantizar la calidad de los datos utilizados, sino que también proporcionarán documentación detallada sobre los sistemas implementados. Esta documentación debe incluir varios elementos. En primer lugar, un mapeo preciso de los riesgos vinculados al uso de IA, la implementación de mecanismos de supervisión humana para las decisiones automatizadas y la trazabilidad de los algoritmos para garantizar la transparencia.
Iniciativas como » cajas de arena regulatorios «(» Sandboxes regulatorios «), sin embargo, ofrecen un soporte significativo para las nuevas empresas y las PYME. Estos espacios controlados permiten innovar mientras prueban las soluciones en un marco seguro y de acuerdo con los requisitos legales.
Calidad de los datos, un problema central
La gestión de datos constituye uno de los pilares de la Ley de IA, tanto en términos de calidad como de cumplimiento de los derechos relacionados con el acceso y el uso de capacitación, datos de validación, pero también de los datos de salida generados por la IA. Por lo tanto, las empresas deben garantizar que los datos utilizados para capacitar a sus modelos no sean sesgados, rastreables y de acuerdo con el GDPR y los derechos de autor. Este requisito es crítico en sectores como las finanzas o el sector público, donde los sesgos algorítmicos podrían conducir a la discriminación en ese momento, por ejemplo, la concesión de créditos o el acceso a los beneficios sociales. Además, para garantizar la protección de la privacidad, el CNIL detalla ciertas acciones a seguir por los desarrolladores de sistemas de inteligencia artificial. Este último debe integrar los principios de protección de los datos personales («privacidad por diseño») de su diseño para garantizar la gestión rigurosa y el monitoreo de los datos de aprendizaje.
Confianza, palanca estratégica para la innovación
Además de la calidad, la confianza de los usuarios y los consumidores, pero también la de las empresas es un problema crucial. Al imponer reglas estrictas y detalladas, la Ley de IA tiene como objetivo fortalecer esta confianza, en particular en los sectores sensibles. Por ejemplo, en el campo de la salud donde uno de cada dos cuidadores incorpora tecnologías de IA en su práctica, las soluciones transparentes y seguras son esenciales para garantizar la seguridad del paciente. Paralelamente, Europa se basa en etiquetas y certificaciones de calidad para que las empresas que respeten los estándares puedan diferenciarse. Estas iniciativas podrían permitir que las empresas francesas se posicionen como socios de confianza en un mercado global de IA estimado en $ 500 mil millones para 2028, una multiplicación por cuatro en comparación con el tamaño del mercado estimado en 2023.
Anticipar tener éxito en la integración
Para las empresas y organizaciones, la preparación para la entrada en la aplicación de la Ley de IA es esencial. En primer lugar, deben llevar a cabo un inventario de sistemas para identificar sistemas de IA sujetos a obligaciones específicas. También deben garantizar la capacitación de los equipos para que los empleados se den cuenta de los problemas legales y técnicos. Además, la colaboración estratégica es esencial. Esto consiste en elegir socios de confianza, para el hecho de los requisitos legales, en toda la cadena de desarrollo y uso. Finalmente, las organizaciones deben invertir en herramientas de cumplimiento, estas soluciones tecnológicas son esenciales para garantizar el monitoreo y el cumplimiento.
Más allá de las obligaciones legales, AI HECS representa una oportunidad única para que los operadores europeos definan un marco ético y responsable en torno a la inteligencia artificial. Las empresas deben anticipar absolutamente los cambios. Por lo tanto, podrán transformar estas obligaciones en palancas estratégicas para seguir siendo competitivas e innovar. De esta manera, al aprovechar los valores de calidad, seguridad y confianza, Francia podría convertirse en un líder en el desarrollo de una IA responsable, inscribiendo así al país como un jugador clave en el ecosistema de la IA europea y potencialmente global.
____________________________
Par Kalliopi SpyridakiJefe de estrategia de privacidad, EMEA y Asia Pacífico, SAS
Leer también:
AI ACT European: un avance crucial que plantea la necesidad de gestión de datos inteligentes
AI acto paso a paso
Una guía para cumplir con «por diseño» en AI ACT
AI ACT: ¿Qué puede recordar un DSI?
Regulación de IA: un compromiso en la Ley Europea de AI que queda por detallarse
[
