Temperatura

La temperatura es un ajuste que se aplica cuando un modelo de lenguaje elige el siguiente token. En cada paso, el modelo calcula una probabilidad para cada token posible; la temperatura modifica qué tan «picuda» o «plana» es esa distribución antes de sortear el resultado.

Con temperatura baja (cercana a 0), las opciones más probables se vuelven aún más dominantes y el modelo tiende a responder casi siempre lo mismo: útil para extraer datos, clasificar o generar código. Con temperatura alta, las opciones menos probables ganan oportunidad y las respuestas son más variadas y sorprendentes, pero también más propensas a incoherencias o alucinaciones. Es útil para lluvias de ideas o escritura creativa.

El nombre viene de la física estadística: en la fórmula matemática (la función softmax), la temperatura divide los valores antes de convertirlos en probabilidades, de forma análoga a como la temperatura afecta la distribución de energía de las partículas.

Matices: temperatura 0 no garantiza respuestas idénticas siempre, por detalles de cómputo en los servidores. La temperatura suele combinarse con otros controles como el muestreo top-p; los proveedores recomiendan ajustar uno u otro, no ambos a la vez. Y en las apps de chat normalmente no la ves: se configura en la API o en herramientas para desarrolladores. Algunos modelos de razonamiento ni siquiera permiten cambiarla.