Alucinación

En IA, una alucinación ocurre cuando un modelo genera información incorrecta o inventada y la presenta con la misma seguridad que un dato cierto: una cita que nadie dijo, un artículo de ley que no existe, una referencia bibliográfica falsa o una cifra sin fuente. Algunos investigadores prefieren el término «confabulación», porque el modelo no percibe nada; simplemente produce texto plausible.

¿Por qué pasa? Un LLM está entrenado para generar la continuación más probable, no para verificar hechos. Si en sus datos hay poca información sobre algo, igual completa el hueco con algo que «suena bien». Un artículo de investigadores de OpenAI (2025) argumenta además que los métodos de entrenamiento y las evaluaciones habituales premian adivinar por encima de admitir incertidumbre, igual que un examen de opción múltiple que no penaliza responder al azar.

Las alucinaciones se reducen, pero no desaparecen, con varias estrategias: conectar el modelo a fuentes confiables mediante RAG o búsqueda web, pedir que cite y que diga «no sé» cuando no tenga certeza, bajar la temperatura y, sobre todo, mantener a un humano en el circuito para revisar.

No confundas alucinación con sesgo u opinión: la alucinación es un error de hecho. Y que un modelo cite una fuente no garantiza que la fuente diga lo que el modelo afirma; hay que abrirla y comprobar.