Aprendizaje por transferencia

El aprendizaje por transferencia consiste en aprovechar un modelo ya entrenado en una tarea general como punto de partida para otra tarea más específica. La idea es la misma que en las personas: quien ya sabe andar en bicicleta aprende más rápido a manejar una motocicleta, porque transfiere el equilibrio y la noción de tráfico.

En la práctica, se toma un modelo entrenado con un gran conjunto de datos, por ejemplo, millones de fotografías variadas, y se reentrena sólo una parte, o se ajusta ligeramente, con un conjunto pequeño de la tarea nueva. Las primeras capas de una red de visión ya aprendieron a detectar bordes, texturas y formas, conocimiento útil para casi cualquier problema de imágenes; sólo hace falta enseñarle las categorías nuevas.

Esta técnica es la base del paradigma actual de la IA: se hace un costoso preentrenamiento de un modelo fundacional y luego se adapta mediante ajuste fino o métodos eficientes como LoRA. Así, una empresa mediana puede tener un modelo especializado sin pagar el entrenamiento desde cero.

No siempre funciona: si la tarea nueva es muy distinta de la original, el conocimiento transferido puede servir poco o incluso perjudicar, lo que se llama transferencia negativa. También se heredan los sesgos y limitaciones del modelo base, por lo que conviene evaluarlo con datos propios antes de usarlo.