Evaluación de impacto algorítmico

Una evaluación de impacto algorítmico es un ejercicio estructurado que se hace antes de desplegar un sistema de decisión automatizada (y se actualiza después) para responder: ¿a quién afecta?, ¿qué puede salir mal?, ¿qué tan grave sería?, ¿cómo lo vamos a prevenir y corregir? Es pariente de las evaluaciones de impacto ambiental o de protección de datos.

Un ejemplo pionero es el de Canadá. Su Directiva sobre Toma de Decisiones Automatizada exige a las dependencias federales usar una herramienta oficial, la Algorithmic Impact Assessment: un cuestionario de 106 preguntas (65 sobre riesgos y 41 sobre mitigación) que asigna un nivel de impacto del I al IV; a mayor nivel, más requisitos, como revisión por pares o intervención humana.

En Europa, el Reglamento de IA (artículo 27) obliga a organismos públicos y a ciertos usuarios privados de sistemas de alto riesgo (por ejemplo, para evaluar solvencia crediticia) a realizar una evaluación de impacto sobre derechos fundamentales antes de usarlos. La UNESCO también promueve una metodología de evaluación de impacto ético en su trabajo derivado de la Recomendación de 2021.

Una buena evaluación incluye la voz de las personas afectadas, revisa sesgos y datos personales, define quién supervisa y cómo se reclama. Matiz: su valor depende de que pueda cambiar la decisión; si se llena como trámite al final, sirve de poco.