Alineación de la IA

La alineación es el problema de lograr que un sistema de IA haga lo que de verdad queremos, y no sólo lo que literalmente le pedimos o lo que maximiza su métrica de entrenamiento. Un modelo puede aprender atajos: cumplir la letra de una instrucción y violar su espíritu, o decir lo que el usuario quiere oír en lugar de lo verdadero.

En los grandes modelos de lenguaje actuales, la alineación se trabaja sobre todo después del preentrenamiento. La técnica más conocida es el aprendizaje por refuerzo con retroalimentación humana (RLHF), descrita para InstructGPT por OpenAI en 2022: personas comparan respuestas y el modelo se ajusta hacia las preferidas. Anthropic propuso en 2022 la «IA constitucional», que usa una lista explícita de principios y retroalimentación generada por la propia IA para reducir respuestas dañinas.

Hay dos escalas de la discusión. A corto plazo: que los asistentes sean útiles, honestos y no ayuden a causar daño. A largo plazo: cómo supervisar sistemas que podrían superar a las personas en muchas tareas, tema ligado a la seguridad de la IA y al debate sobre riesgo existencial.

Matiz: «alineado con valores humanos» plantea la pregunta de cuáles valores y de quién. Por eso la alineación técnica no sustituye la deliberación pública ni la regulación; las complementa.