ISO/IEC 25059: Cómo evaluar la calidad de los sistemas de inteligencia artificial.

¿Qué es ISO/IEC 25059?

Establece un modelo de calidad para sistemas de IA, es decir, proporciona características y conceptos que ayudan a evaluar qué tan bueno, confiable y adecuado es un sistema de IA para su propósito.

La norma proporciona terminología consistente para especificar, medir y evaluar la calidad de un sistema de IA y permite contrastar los requisitos declarados con un conjunto estructurado de características de calidad. No sustituye las prácticas de ingeniería, pruebas, seguridad o gestión de riesgos: ayuda a organizarlas y a identificar qué dimensiones deberían formar parte de una evaluación integral.

Su enfoque permite analizar aspectos como:

• Capacidad funcional: Si el sistema de IA realiza correctamente las funciones para las que fue diseñado.

• Eficiencia:  Qué tan bien utiliza recursos como tiempo, procesamiento y memoria.

• Compatibilidad:  Cómo interactúa con otros sistemas y componentes.

• Usabilidad:  Qué tan fácil es para las personas utilizar e interpretar el sistema.

• Confiabilidad:  Qué tan consistente y estable es su funcionamiento.

• Seguridad:  Protección del sistema y de la información frente a amenazas.

• Mantenibilidad:  Facilidad para modificar, actualizar y mantener el sistema.

• Flexibilidad/adaptabilidad: Capacidad de responder ante cambios en su entorno o propósito.

Casos de uso: Cómo puede aplicarse ISO/IEC 25059.

Caso de uso.	Riesgo típico.	Como aterrizar  ISO/IEC 25059.
Asistente generativo / chatbot.	Alucinaciones, respuestas no trazables, acciones sin confirmación.	Exactitud contextual; tasa de respuestas no fundamentadas; recuperación con RAG; filtros; transparencia; escalamiento humano.
Scoring de crédito o riesgo.	Decisiones inconsistentes, sesgo, explicaciones insuficientes.	Rendimiento por segmento; estabilidad; fairness; explicabilidad; revisión humana; registro de decisiones.
Mantenimiento predictivo.	Falsos positivos o negativos que afectan operación y costos.	Precisión/recall según criticidad; drift; robustez a sensores faltantes; tiempo de anticipación; fallback.
Visión artificial en manufactura.	Defectos no detectados o rechazo incorrecto de piezas.	Defectos no detectados o rechazo incorrecto de piezas.
Apoyo a decisiones clínicas.	Recomendaciones incorrectas o uso fuera del contexto previsto.	Sensibilidad/especificidad según caso; límites de uso; supervisión profesional; explicabilidad; monitorización posterior.
Detección de fraude.	Bloqueos injustificados o fraude no detectado ante patrones cambiantes.	Recall de fraude; falsos positivos; adaptación al cambio; drift; intervención humana y reglas de contingencia.

¿Cómo se relaciona con otras

normas  de calidad y gobierno de IA?

ISO/IEC 25059 funciona mejor como parte de un ecosistema. Una organización que construye o adquiere sistemas de IA puede combinarla con referencias de calidad de software, datos, riesgo, pruebas y gestión de IA para cubrir el ciclo de vida de manera más completa.

Norma / Referencia.	Aporte dentro del  ecosistema de calidad de IA.
ISO/IEC 25010	Modelo general de calidad de producto y calidad en uso para sistemas y software.
ISO/IEC 25059	Calidad de datos: un componente crítico para entrenamiento, evaluación y operación de IA.
ISO/IEC 23894	Guía de gestión de riesgos específicos  de inteligencia artificial.
ISO/IEC 42001	Sistema de gestión de IA: gobernanza, responsabilidades, controles y mejora continua.
ISO/IEC TR 29119-11 / ISO/IEC TS 25058	Orientación complementaria para pruebas y evaluación de sistemas basados en IA.

Cómo incorporar ISO/IEC 25059 a una estrategia de QA.

1. Definir el contexto de uso | Qué problema resuelve la IA, quiénes son los usuarios, qué decisiones soporta y qué consecuencias puede producir un error.

2. Identificar riesgos y características prioritarias | No todas las dimensiones requieren el mismo nivel de rigor. Un recomendador de contenido y un sistema de apoyo clínico tienen perfiles de riesgo muy diferentes.

3. Convertir características en requisitos medibles |  Establecer métricas, umbrales, tolerancias y criterios de aceptación. Incluir requisitos de control humano y transparencia, no solo indicadores del modelo.

4. Construir datos de prueba representativos | Cubrir casos normales, bordes, segmentos relevantes, datos faltantes, ruido, cambios de distribución, escenarios adversos y condiciones reales de operación.

5. Evaluar antes del despliegue | Ejecutar pruebas funcionales, estadísticas, de robustez, seguridad, privacidad, sesgo, explicabilidad, rendimiento e integración según corresponda.

6. Definir mecanismos de intervención | Especificar cuándo debe escalarse a una persona, cómo se detiene o limita el sistema y qué procedimientos se activan cuando la calidad cae.

7. Monitorear después de producción | Medir drift, cambios de comportamiento, errores, incidentes, retroalimentación y métricas críticas. La calidad de IA no termina con el release.

¿Para qué sirve en una empresa?

Para una empresa que implementa IA, puede utilizarse como marco para evaluar la calidad de una solución antes, durante y después de su implementación.

Por ejemplo, si una inmobiliaria implementa una IA para clasificar y priorizar prospectos, no basta con preguntar:

"¿La IA funciona?"

También sería importante evaluar:

Precisión → Confiabilidad → Seguridad → Facilidad de uso → Eficiencia → Mantenimiento → Adecuación al objetivo empresarial.

ISO/IEC 25059 aporta una idea especialmente valiosa para la ingeniería moderna: la calidad de un sistema de inteligencia artificial no puede reducirse a una sola métrica ni evaluarse únicamente como si fuera software determinista. La confiabilidad depende de cómo el sistema acierta, cómo falla, cómo se adapta, qué tan robusto es, qué información comunica y cuánto control conserva la persona o el operador.

Para los equipos de QA, esto amplía el alcance de las pruebas. Ya no basta con validar pantallas, APIs y reglas de negocio; también es necesario diseñar evaluaciones estadísticas, escenarios adversos, controles de intervención, trazabilidad, monitoreo de drift y criterios explícitos sobre el comportamiento aceptable del modelo.

En AP Interfaces, integrar ISO/IEC 25059 con prácticas de QA, calidad de datos, seguridad y gobierno de IA permite construir soluciones que no solo incorporan inteligencia artificial, sino que pueden demostrar de manera estructurada por qué son suficientemente confiables para su propósito.