Sobreajuste (overfitting)

El sobreajuste (overfitting) ocurre cuando un modelo se ajusta tanto a los datos de entrenamiento que memoriza sus detalles y su ruido en lugar de aprender el patrón general. El resultado es engañoso: en los datos que ya vio parece casi perfecto, pero con datos nuevos se equivoca mucho. Es como el estudiante que memoriza las respuestas de la guía de examen y reprueba cuando las preguntas cambian un poco.

Suele aparecer cuando el modelo es demasiado complejo para la cantidad de datos disponibles: un árbol de decisión muy profundo o una red neuronal con muchísimos parámetros entrenada con pocos ejemplos. La señal típica es una brecha creciente entre el error de entrenamiento, que sigue bajando, y el error de validación, que deja de bajar o empieza a subir. Por eso se usan conjuntos separados de entrenamiento, validación y prueba.

Las defensas más comunes son conseguir más datos y más variados, simplificar el modelo, aplicar regularización (como penalizar pesos grandes o usar dropout), detener el entrenamiento antes de tiempo cuando el error de validación empeora y usar validación cruzada para estimar el desempeño de forma más robusta.

Su opuesto es el subajuste, cuando el modelo es tan simple que ni siquiera capta el patrón en los datos de entrenamiento. El objetivo es el punto medio: un modelo que generalice. Un matiz: en modelos muy grandes se han observado comportamientos que no encajan del todo en esta visión clásica, pero el principio de evaluar siempre con datos no vistos sigue vigente.