Entrenamiento

El entrenamiento es el proceso mediante el cual un modelo de aprendizaje automático aprende a partir de datos. Al inicio, sus parámetros tienen valores casi aleatorios y sus predicciones son malas. Durante el entrenamiento, el sistema ve muchos ejemplos, compara lo que predijo con lo esperado mediante una función de pérdida y ajusta los parámetros para equivocarse un poco menos. En las redes neuronales, ese ajuste se hace con descenso de gradiente y retropropagación, repetido millones de veces.

Los datos suelen dividirse en conjuntos de entrenamiento, validación y prueba: con el primero se aprende, con el segundo se ajustan decisiones de diseño y con el tercero se mide el desempeño final en datos no vistos. Así se detecta el sobreajuste, cuando el modelo memoriza en vez de generalizar.

En los modelos de lenguaje modernos el entrenamiento ocurre en etapas: un preentrenamiento masivo con grandes volúmenes de texto, seguido de ajuste fino y técnicas de alineación con retroalimentación humana. El preentrenamiento de los modelos más grandes requiere miles de procesadores especializados durante semanas, lo que lo vuelve muy costoso.

Una aclaración frecuente: cuando chateas con un asistente, normalmente no lo estás entrenando en ese momento. El modelo ya está entrenado y sólo hace inferencia. Algunas empresas sí pueden usar tus conversaciones para entrenar versiones futuras, según sus políticas y la configuración de tu cuenta.