XXII, uno de los líderes en visión por computadora basada en IA, está publicitando una carta ética e invita a todos los editores de software que dependen de la inteligencia artificial a adoptar también esta carta.
¿Cómo hablas de ti mismo mientras tratas de hacer las cosas en la dirección correcta? Al final, esto es lo que acaba de conseguir XXII un actor francés poco conocido por el gran público y experto en tecnologías de visión artificial basadas en IA. Su solución en modo SaaS es utilizada en particular por muchas ciudades y sitios privados para controlar el tráfico, detectar intrusiones, monitorear grupos, verbalizar estacionamientos molestos, luchar contra vertidos no autorizados, etc.
La visión artificial ha recorrido un largo camino desde la llegada de los algoritmos de aprendizaje profundo y los avances resultantes en IA. Pero también es una de las áreas donde con mayor frecuencia se han señalado los sesgos de la IA con la discriminación por el color de la piel, por ejemplo, simplemente por un entrenamiento inadecuado de las redes neuronales.
La IA plantea cuestiones éticas tanto por sus sesgos como por sus usos. » La inteligencia artificial nos ofrece ahora esta oportunidad de aumentar los sentidos, especialmente la visión. Al mejorar y multiplicar el rendimiento de las máquinas, la visión asistida por computadora libera a los humanos de las tareas más complejas y tediosas, permitiéndoles concentrarse en misiones creativas y estimulantes, explica William Eldin, director ejecutivo y cofundador de XXII. Sin embargo, para evitar cualquier deriva, debemos enmarcar nuestro enfoque tecnológico en total transparencia ; a través de un compromiso ético con el uso de la IA.”
Un compromiso ético que se traduce en la publicación de una carta ética. » Esta Carta Ética XXII establece los principios fundamentales del comportamiento individual y colectivo que deben guiar a cada empleado, independientemente de su función o cargo en el día a día. Esta carta es la base de un cuestionamiento que queremos que sea permanente y la expresión de nuestro deseo de progresar. El objetivo es evolucionar continuamente nuestro software y ser transparentes en la forma en que desarrollamos nuestros productos” detalla William Eldin.
Al publicar abiertamente esta carta, XXII no solo busca crear conciencia entre sus desarrolladores, gerentes de productos, clientes y socios. El editor también quiere predicar con el ejemplo e involucrar en su movimiento a todos los editores y actores franceses que crean y usan IA. Los líderes de XXII están convencidos de que dicho enfoque ético es esencial para el surgimiento de un ecosistema tecnológico benévolo y la confianza en la tecnología digital y la IA. » Los principios que hemos establecido son nuestra guía en todos los niveles de la empresa. Serán respetados, aplicados y plasmados para promover con ejemplaridad el saber hacer tecnológico agrega William Eldin.
Esta carta se basa en 5 palabras clave que son la esencia misma de 5 principios éticos: Beneficencia, No maleficencia, Autonomía, Justicia, Explicabilidad/Transparencia.
-
- Caridad : La IA debe potenciar el bienestar individual y colectivo, así como el bien común.
- no maleficencia : La IA no debe perjudicar, perjudicar o agravar una situación.
- Autonomía : La IA debe promover la autonomía del usuario. Y el usuario debe estar en plena capacidad para conservar su poder de decisión.
- Justicia : La inteligencia artificial no debe ser sesgada bajo ninguna circunstancia y no debe dañar a los seres humanos.
- Explicabilidad y transparencia : La IA no debe ser una caja negra, un proceso oscuro, sino, por el contrario, estar iluminada por documentaciones y tecnologías detalladas que permitan ver y comprender lo que está sucediendo allí.
La carta completa se puede encontrar aquí: XXII-202201-Charte-ethique.pdf
[
