Humano en el circuito (human in the loop)

Un sistema con humano en el circuito (HITL, human in the loop) incorpora a una persona en momentos definidos del proceso: para aprobar una acción, corregir un resultado, resolver casos dudosos o etiquetar datos con los que el modelo sigue aprendiendo. Es lo contrario de la automatización total.

Aparece en varias etapas. En el entrenamiento, personas etiquetan datos o comparan respuestas (como en el RLHF). En la operación, una persona valida lo que la IA propone antes de que tenga efecto: un médico confirma un diagnóstico sugerido, un contador revisa una declaración preparada por un asistente o un empleado aprueba el pago que un agente quiere hacer. Se suele distinguir también el human on the loop, donde la persona supervisa y puede intervenir, pero no aprueba cada paso.

Importa por calidad, responsabilidad y regulación. Los modelos se equivocan y pueden alucinar; alguien debe responder por las decisiones. El Reglamento de IA de la UE exige supervisión humana efectiva para los sistemas de alto riesgo.

El riesgo es convertirlo en un trámite: si la persona aprueba todo sin revisar (el llamado sesgo de automatización), el control es sólo aparente. Un buen diseño define qué casos debe ver un humano, le da información para decidir y mide si de verdad corrige errores.