Equidad algorítmica

La equidad algorítmica (en inglés, fairness) es el conjunto de métodos para revisar si un sistema de aprendizaje automático reparte sus aciertos, errores y beneficios de forma justa entre grupos. Es la respuesta técnica y ética al sesgo algorítmico.

En la práctica se traduce en métricas. Algunas comparan tasas de aprobación entre grupos (paridad demográfica); otras comparan tasas de error, por ejemplo cuántos falsos positivos y falsos negativos recibe cada grupo (igualdad de oportunidades); otras revisan si una misma puntuación significa lo mismo para todos (calibración). Herramientas como la matriz de confusión desglosada por grupo son el punto de partida.

El matiz central: estas definiciones no siempre pueden cumplirse a la vez. Kleinberg, Mullainathan y Raghavan demostraron en 2016 que, salvo casos especiales, es matemáticamente imposible satisfacer simultáneamente ciertos criterios de calibración y de equilibrio de errores cuando los grupos tienen tasas base distintas. Por eso elegir una métrica es una decisión de valores, no sólo técnica, y conviene documentarla.

Las intervenciones posibles van desde corregir los datos (recolectar más ejemplos de grupos subrepresentados), modificar el entrenamiento, hasta ajustar umbrales de decisión. Ninguna sustituye la pregunta previa: ¿debe automatizarse esta decisión? Por eso la equidad suele ir de la mano de la evaluación de impacto y de la transparencia.