En artículos anteriores vimos los ataques contra la IA —inyección de prompts, envenenamiento de datos, fuga de información— y el dato de PwC: las organizaciones se sienten menos preparadas ante los ataques a sus sistemas de IA que ante cualquier otra amenaza. La pregunta natural es: ¿cómo se gestiona ese riesgo de forma sistemática y auditable? Dos marcos se han vuelto la respuesta de referencia: ISO/IEC 42001 y el NIST AI RMF. Este artículo los explica y, sobre todo, muestra cómo aterrizarlos.
Idea de partida. No son marcos rivales. ISO 42001 es el sistema de gestión certificable (el "qué debe existir y demostrarse"); el NIST AI RMF es el motor de operación del riesgo (el "cómo identificarlo y tratarlo"). Encajan uno dentro del otro.
1. NIST AI RMF: el motor del riesgo
El AI Risk Management Framework 1.0 del NIST (EE. UU.) es un marco voluntario y orientado a resultados. Su núcleo son cuatro funciones:
| Función | Qué hace |
|---|---|
| GOVERN | Función transversal: cultura, políticas, roles y rendición de cuentas sobre la IA |
| MAP | Contextualizar: ¿qué sistema de IA es, para qué, qué puede salir mal, qué impacto tiene? |
| MEASURE | Medir y analizar el riesgo con métodos cuantitativos y cualitativos (incluye pruebas y red teaming) |
| MANAGE | Priorizar, tratar y monitorear los riesgos a lo largo del tiempo |
GOVERN envuelve a las otras tres. El marco se apoya en las características de una IA confiable (válida y fiable, segura, resiliente, responsable y transparente, explicable, con privacidad y con sesgo dañino gestionado), y trae un Playbook con acciones concretas.
Perfil de IA generativa (NIST AI 600-1). En julio de 2024 el NIST publicó un documento complementario específico para IA generativa: identifica 12 áreas de riesgo y propone más de 200 acciones sugeridas, mapeadas a las cuatro funciones. Es lectura obligada si despliegas LLMs.
2. ISO/IEC 42001: el sistema de gestión
ISO/IEC 42001:2023 es el primer estándar internacional para un Sistema de Gestión de IA (AIMS). Si conoces ISO 27001, el patrón te será familiar: define requisitos para establecer, implementar, mantener y mejorar la gestión de la IA en una organización, con enfoque de riesgo y ciclo de mejora continua (PDCA).
- Es certificable. A diferencia del NIST AI RMF, una organización puede certificarse en ISO 42001 ante un tercero, lo que lo convierte en un argumento de confianza verificable frente a clientes.
- Estructura de alto nivel ISO. Comparte la estructura de ISO 9001 y 27001, así que se integra con los sistemas de gestión que ya tengas, en vez de duplicarlos.
- Controles y evaluación de impacto. Incluye controles de referencia y la evaluación de impacto de los sistemas de IA (sobre personas y sociedad), gestión de datos y del ciclo de vida del modelo.
3. Cómo se complementan
La combinación que está adoptando la industria es directa:
| ISO/IEC 42001 | NIST AI RMF | |
|---|---|---|
| Naturaleza | Estándar certificable | Marco voluntario |
| Rol | Sistema de gestión (“envoltura”) | Operación del riesgo (“motor”) |
| Pregunta | ¿Qué debe existir y demostrarse? | ¿Cómo identifico y trato el riesgo? |
| Analogía | ISO 27001 para la IA | Como un catálogo de prácticas de riesgo |
En la práctica: usas ISO 42001 para montar el sistema de gestión (políticas, roles, evaluación de impacto, mejora continua) y el NIST AI RMF —con su Playbook y el perfil GenAI— como el método para poblar ese sistema con actividades concretas de identificación, medición y tratamiento del riesgo.
4. Cómo aterrizarlo (lo técnico)
Donde esto deja de ser teoría:
- Inventario de sistemas de IA (MAP). No puedes gobernar lo que no conoces. Catálogo de modelos, usos, datos que tocan y criticidad.
- Evaluación de impacto (ISO 42001 + MAP). Para cada sistema: qué puede salir mal, a quién afecta, qué riesgos de seguridad y de sesgo tiene.
- Red teaming de IA como actividad de MEASURE. Aquí conecta con lo ofensivo: probar inyección de prompts (directa e indirecta), fuga de datos, jailbreaks y abuso de agentes es, en lenguaje NIST, medir el riesgo. El OWASP Top 10 para LLM te da el catálogo de qué probar.
- Controles y tratamiento (MANAGE). Mínimo privilegio para agentes, validación de entrada y salida, aislamiento, monitoreo de comportamiento del modelo.
- Gobernanza viva (GOVERN). Política de uso de IA, roles claros (quién aprueba un despliegue), y un ciclo que revisa y mejora — no un PDF que se firma y se olvida.
Puente con lo que ya tienes. Si tu organización ya opera con ISO 27001 y controles CIS, ISO 42001 se enchufa encima: la seguridad de la información cubre el dato; el AIMS añade lo específico del modelo (sesgo, explicabilidad, impacto, ciclo de vida de la IA).
5. Para Chile y LATAM
El contexto regional lo hace urgente: según ESET, el 40% de las organizaciones de la región aún no tiene ninguna política para regular el uso de IA. Con la Ley 21.719 de protección de datos entrando en juego y la Ley 21.663 exigiendo gestión de ciberseguridad, un AIMS (ISO 42001) operado con el NIST AI RMF es la forma ordenada de llegar a ese estándar antes de que sea una exigencia contractual o legal — y de convertir la gobernanza de IA en un diferenciador comercial.
6. Conclusión
Gobernar la IA no es frenar la innovación: es poder demostrar que el riesgo está identificado, medido y tratado. ISO/IEC 42001 aporta el sistema de gestión certificable y el NIST AI RMF, el método para operarlo; juntos convierten las amenazas que recorrimos en esta serie en controles concretos y auditables. Para un equipo de seguridad ofensiva, además, hay una buena noticia: el red teaming de modelos deja de ser un extra y pasa a ser una pieza formal del marco —la función MEASURE—. Probar la IA ya no es opcional; es gobernanza.