Gobernanza de la IA

La gobernanza de la IA responde a preguntas prácticas: quién decide si se usa un sistema de IA, con qué criterios, quién responde si algo sale mal y cómo se vigila con el tiempo. Opera en dos planos.

En el plano público incluye leyes, reguladores, normas técnicas y acuerdos internacionales. Ejemplos: el Reglamento de IA de la UE, los Principios de IA de la OCDE o la Recomendación de la UNESCO. En el plano organizacional, son las políticas internas: inventario de sistemas de IA, clasificación por riesgo, comité o responsable designado, política de uso, evaluaciones antes de lanzar y monitoreo después.

Para las organizaciones existen marcos de referencia. El AI RMF del NIST organiza la gestión de riesgos en cuatro funciones (gobernar, mapear, medir y gestionar), y la norma ISO/IEC 42001 define un sistema de gestión de IA que puede certificarse. Ambos son voluntarios, pero se usan para demostrar diligencia ante clientes y reguladores.

Matiz: gobernanza no es sinónimo de prohibir. Su objetivo es que las decisiones sobre IA sean deliberadas y trazables. También incluye fenómenos como la IA en la sombra, cuando empleados usan herramientas sin que la organización lo sepa, algo que ninguna política resuelve si no se ofrece una alternativa autorizada.