La ISO/IEC 23894:2023, respecto de las tecnologías de información y de la inteligencia artificial (IA)

Feb 2, 2024Blog, Cultura corporativa

Recientemente la Organización Internacional de Estandarización (ISO, por sus siglas en inglés) culminó el proceso de discusión y publicó la norma ISO/IEC 23894:2023 con el objeto de dirigir -o direccionar- la gestión administrativa (de forma orientativa)  de las organizaciones que desarrollan técnicas, que producen, que ejecutan o que practican sus actividades con sistemas de  Inteligencia Artificial (IA) o el Big Data.

Resulta novedoso y pertinente, a pesar de la constante globalización y de los agigantados pasos de la tecnología, analizar las implicaciones del contenido de tales disposiciones; precisamente porque es un avance relativamente nuevo para la sociedad que conocemos, y que por ahora existe escasa regulación de las mismas; por dar un caso, la ISO/IEC 23894, Information Technology — Artificial Intelligence — Risk Management proporciona directrices sobre la gestión del riesgo al que se enfrentan las organizaciones durante el desarrollo y la aplicación de técnicas y sistemas de inteligencia artificial (IA) -según la revista de normalización española-.

Los antecedentes se encuentran en el año 2019 cuando el Comité CTN 71/SC 42 Inteligencia Artificial y Big Data se estableció para estructurar recomendaciones que tenían por objeto tal tema; y, después de ello, las mismas eran remitidas al Consejo Europeo y al Comité Internacional.

Por ahora, existen posiciones duales sobre el uso de la Inteligencia Artificial:

  • por un lado, que tienen escasa seguridad jurídica en proporción debido a los peligros que -para algunos- representa, ya sea por su novedad y experiencia temprana o efectos en un uso desviado;
  • y, por otra tendencia, significa un avance en las gestiones de las corporaciones -o establecimientos comerciales- por su optimización y eficacia (Revista de normalización española, 2023).

E incluso, ya no es solamente el sector privado sino también en la Administración Pública; la IA no es una materia aislada sino que también se ha convertido en materia comercial, asociativa, de investigación para los centros y universidades.

Podemos observar que existen procesos de investigación, existe la intención de regular un tema tan delicado como lo es  el uso de las nuevas tecnologías por los riesgos inherentes a su implementación. Entre los riesgos más destacados, podemos citar:  tráfico de información, de interacción de datos íntimos, información bancaria, revelación de detalles de la transacción, cadenas de información, etc.

Sin embargo, todos esos casos implican un asunto fundamental: el sesgo.

¿A qué se refiere? Precisamente, siguiendo el criterio de la revista y de las discusiones del Consejo Europeo, es un tema que no tiene estructura  y provienen del criterio subjetivo humano, entonces ¿Aumentan o disminuyen el comportamiento errático de la sociedad? Puede ser, cómo no puede ser.

No obstante, de lo anterior, tenemos a la ISO/IEC DTR 24027 Information technology — Artificial Intelligence (AI) — Bias in AI systems and AI aided decision making la cual aborda el sesgo en relación con los sistemas de IA, especialmente en lo que respecta a la toma de decisiones asistida por IA.

La ISO 23894:2023, por su parte, proporciona orientación sobre cómo las organizaciones que desarrollan, producen, implementan o utilizan productos, sistemas y servicios que utilizan inteligencia artificial (IA) pueden gestionar el riesgo específicamente relacionado con la IA (riesgo inherente).

La guía también tiene como objetivo ayudar a las organizaciones a integrar la gestión de riesgos en sus actividades y funciones relacionadas con la IA.

Además, describe los procesos para la implementación e integración efectivas de la gestión de riesgos de IA.

La aplicación de esta guía se puede personalizar a cualquier organización y su contexto.

Los siguientes documentos se mencionan en el texto de tal manera que parte o todo su contenido constituye los requisitos de este documento.

  • ISO 31000:2018Gestión de riesgos – Directrices
  • Guía ISO 73:2009, Gestión de riesgos – Vocabulario
  • ISO/IEC 22989:2022, Tecnología de la información – Inteligencia artificial – Conceptos y terminología de inteligencia artificial

Related Blogs