IA responsable

IA responsable es el nombre paraguas que gobiernos, organismos y empresas usan para el conjunto de principios y prácticas que buscan que la IA beneficie a las personas sin causar daños injustificados. Los principios se repiten en casi todos los marcos: respeto a los derechos humanos, equidad, transparencia, seguridad, privacidad y rendición de cuentas.

Dos referencias internacionales son los Principios de IA de la OCDE (adoptados en 2019 y actualizados en 2024) y la Recomendación de la UNESCO de 2021. Grandes empresas tecnológicas publican también sus propios principios y normas internas.

La dificultad está en pasar del principio a la práctica. Ahí entran herramientas concretas: evaluaciones de sesgo, evaluaciones de impacto, documentación de modelos y datos, supervisión humana, red teaming, canales para reclamar y marcos de gestión como el AI RMF del NIST o la norma ISO/IEC 42001.

Matiz: sin métricas, responsables designados y consecuencias, «IA responsable» puede quedarse en declaración de buenas intenciones (lo que algunos críticos llaman ethics washing). Una señal de seriedad es que la organización pueda mostrar qué decidió no hacer, o qué cambió, por razones éticas.