Modelo de lenguaje pequeño (SLM)

Un modelo de lenguaje pequeño (SLM) es un modelo de lenguaje deliberadamente compacto: en lugar de cientos de miles de millones de parámetros, suele tener desde unos cientos de millones hasta algunos miles de millones. No hay una frontera oficial entre «pequeño» y «grande»; el término es relativo y cambia conforme avanza la tecnología.

Su atractivo es práctico. Al ser ligero, consume menos memoria y energía, responde más rápido y puede ejecutarse en el propio equipo, lo que se conoce como IA en el dispositivo. Eso reduce costos y ayuda con la privacidad, porque los datos no tienen que salir a la nube.

¿Cómo logran buen desempeño con menos tamaño? Combinan varias técnicas: datos de entrenamiento muy curados (Microsoft, por ejemplo, documentó con su familia Phi-3 que datos de alta calidad compensan parte del tamaño), destilación a partir de un modelo mayor y cuantización para comprimirlos.

El matiz: un SLM suele tener menos conocimiento general y razonar peor en tareas complejas que un LLM de frontera. Funciona mejor en tareas acotadas (clasificar correos, extraer datos de facturas, autocompletar) o especializado mediante ajuste fino.