LoRA (adaptación de bajo rango)

LoRA (Low-Rank Adaptation, adaptación de bajo rango) es un método para hacer ajuste fino de modelos grandes sin tener que modificar todos sus parámetros. Lo presentaron investigadores de Microsoft en 2021.

La idea, en términos llanos: en vez de reescribir las enormes tablas de números (matrices de pesos) del modelo, LoRA las deja congeladas y les agrega al lado dos matrices muy delgadas cuyo producto representa «el cambio» necesario. Como ese cambio se expresa con pocas dimensiones (bajo rango), el número de parámetros a entrenar baja muchísimo. El artículo original reportó, para GPT-3, una reducción de hasta 10,000 veces en parámetros entrenables y de unas tres veces en memoria de GPU, con calidad comparable al ajuste completo.

Ventajas prácticas: se puede ajustar un modelo con hardware mucho más modesto, el resultado es un archivo pequeño (un «adaptador») y se pueden tener varios adaptadores para distintas tareas sobre el mismo modelo base. Una variante popular, QLoRA (2023), combina LoRA con cuantización para ajustar modelos grandes en una sola GPU.

LoRA también es muy usado en generación de imágenes con modelos de difusión, donde la comunidad comparte adaptadores para estilos o personajes. Ahí aparecen dudas de derechos de autor cuando se imita a artistas concretos.