La inteligencia artificial cruza un umbral en el que la optimización, la autonomía de los agentes y la velocidad de ejecución ya están revolucionando los marcos de toma de decisiones humanas. Entre la superinteligencia, la gobernanza de usos críticos y los requisitos de supervisión, el desafío ya no es sólo innovar, sino establecer líneas rojas verificables antes de que el desempeño sustituya al discernimiento.
Haciéndose eco del Llamado global para líneas rojas de IA Unas semanas antes, más de 800 personalidades, científicos y empresarios, lanzaron a finales de octubre un llamamiento para exigir el fin de la carrera hacia la “superinteligencia artificial”, una forma de IA que bien podría superar las capacidades intelectuales humanas en unos pocos años. En cualquier caso, los renombrados firmantes, incluidos ganadores del Premio Nobel y ex jefes de Estado, quieren crear conciencia sobre los peligros de la IA desenfrenada y proteger a la humanidad de las “consecuencias irreversibles” de su mal uso estableciendo líneas rojas a nivel internacional.
La multiplicación de llamadas en esta dirección saca a la superficie un viejo mito, enterrado en nuestro inconsciente colectivo desde el principio de los tiempos: el de ver al hombre perder el control de la máquina que creó. Y hay que reconocer que sin regulación por nuestra parte, el vertiginoso ritmo al que se suceden las innovaciones pronto podría transformar este miedo primitivo en realidad.
Las máquinas se comunican entre sí y toman decisiones.
Porque hoy la inteligencia artificial ya no es la herramienta de toma de decisiones que debería ser, utilizada a veces para traducir un texto, a veces para mejorar una oferta comercial. A partir de ahora la IA actúa, aprende, arbitra. Puede crear moléculas, reescribir códigos informáticos, detectar vulnerabilidades de ciberseguridad o reasignar los recursos de una empresa. Y va aún más lejos: las máquinas se comunican entre sí, colaboran, se autocorrigen, toman decisiones, a veces sin la más mínima supervisión humana. El rendimiento técnico de la IA está evolucionando mucho más rápido que nuestra capacidad para comprenderla, supervisarla y medir sus efectos: agentes autónomos, inteligencia artificial general (AGI), superinteligencia… El camino hacia una IA “razonadora” está claro.
Además, el ritmo impuesto por todos estos avances modifica nuestra relación con el tiempo y la toma de decisiones: el hombre acelera, simplifica, adapta sus procesos para seguir siendo “compatibles con la IA”, a menudo sin cuestionar el propósito de sus elecciones. Hasta tal punto que la velocidad de ejecución ha sustituido a la reflexión. Sin embargo, la eficiencia no es un valor moral. Y una IA es perfectamente capaz de tomar una decisión óptima según la lógica del rendimiento violando principios humanos fundamentales: puede así favorecer la rentabilidad en detrimento de la seguridad, o priorizar la energía a costa de la biodiversidad.
Algunos gigantes tecnológicos, como Google DeepMind con su » Marco de seguridad fronterizo » de 2024, ya han abordado este problema de manera muy concreta y están probando la “resistencia al apagado” de la IA. Es decir, su capacidad para liberarse de los límites que se les imponen, particularmente cuando estos límites son contradictorios o les impiden llevar a cabo determinadas instrucciones. La IA se ve entonces “obligada” a tomar una decisión que no es necesariamente la más compatible con los valores humanos.
Las cuatro leyes de la IA
Frente a tales prejuicios, los seres humanos no pueden reducirse al simple papel de controlador administrativo. Debe seguir siendo el centro de gravedad moral de cualquier decisión. Si la IA puede hacerlo todo o casi todo, no sabe el “por qué”, que distingue la acción incorpórea de la máquina del discernimiento humano. Por lo tanto, al igual que Isaac Asimov y sus leyes de la robótica, se ha vuelto urgente establecer reglas mínimas para la intervención humana, no negociables y verificables en todos los procesos que involucran a la IA.
Se pueden establecer cuatro salvaguardias concretas: el derecho absoluto de interrupción, según el cual toda IA debe poder detenerse, sin excepción; trazabilidad explícita, para que cada decisión algorítmica pueda ser documentada y auditable; supervisión contextual, para que cualquier uso crítico (salud, finanzas, seguridad) o parte del proceso estratégico de una empresa incluya un punto de validación humana; y un principio de no delegación moral, de modo que ningún sistema puede actuar sobre la base de un criterio puramente utilitario sin control ético.
Francia ya ha demostrado que sabe combinar innovación y ética. Las leyes de bioética, adoptadas desde 1994, han logrado regular la investigación médica sin frenar la innovación. Establecieron una regla simple: el progreso sólo tiene sentido si se rige por el respeto a los seres vivos. La IA merece el mismo equilibrio: ambición guiada por la conciencia.
Algunas instituciones, principalmente a nivel comunitario, están marcando el camino. La ciudad de Ginebra, por ejemplo, adoptó una carta de gobernanza de la IA que exige transparencia pública, supervisión humana y evaluación anual. Varias metrópolis francesas (Lyon, París, Nantes) también están experimentando con cartas éticas y registros algorítmicos que establecen reglas claras y legibles. Estas iniciativas pioneras se beneficiarían si se reunieran en un marco nacional, respaldado por el inventario de algoritmos públicos ODAP y alineado con los principios europeos de Ley de IApara que la regulación no se convierta en un freno, sino al contrario en una palanca de confianza y competitividad.
Un desafío político y humano
El desafío no es sólo tecnológico, es también y sobre todo político y humano. Como predijo Stephen Hawking, el peligro de la inteligencia artificial no reside tanto en su malevolencia sino en su competencia sin conciencia. Esto significa que la urgencia no es hacer que la IA sea más eficiente, sino hacer que nuestras sociedades sean más exigentes en la forma en que la diseñamos, usamos y controlamos.
Aprender a utilizar la IA con moderación, sobriedad y significado significa rechazar la precipitada carrera de modelos y algoritmos gigantes en favor de enfoques más locales –tanto a nivel de infraestructuras como de instituciones– que son más económicos y más útiles. Cada vatio de energía consumido, cada dato procesado como parte de una solicitud a una IA, debe tener un propósito real y humano. Es nuestra responsabilidad, y esta responsabilidad no se limita a nuestra generación. Es nuestro papel y nuestro deber transmitir una comprensión del mundo lúcida, controlada y respetuosa de sus límites.
___________________________
Par Julien DoutremépuichCOO y Director de Francia de Laboratorio de IA cuántica
Lea también:
Combatir la IA en la sombra: cómo las organizaciones pueden repensar su gobernanza de la IA
Vibe Coding e IA generativa: hacia una nueva gobernanza de la seguridad del software
Gobernanza de la IA generativa: el sector público enfrenta desafíos éticos
IA de la sombra a la luz: ¿cómo el almacenamiento da forma a una transparencia y confianza duraderas?
Dos conceptos fundamentales de la IA: transparencia y explicabilidad
[
