¿Qué es human-in-the-loop (HITL) en IA? Dónde colocar el control humano
Por Codara · Publicado: · Actualizado:
Human-in-the-loop (HITL, «persona en el bucle») es un diseño en el que una persona revisa, aprueba o corrige las decisiones de un sistema de IA en los puntos donde el criterio humano importa.
La idea no es supervisarlo todo, sino colocar el control donde aporta valor: aprobar una acción con consecuencias, validar un resultado antes de enviarlo o corregir el rumbo del sistema. Es un principio central de la gobernanza de IA y la base de un copiloto empresarial, que sugiere y ejecuta dejando la decisión en manos de la persona.
Por qué importa
El control humano es lo que hace viable la IA en producción en procesos serios: aporta confianza, responsabilidad y la posibilidad de corregir antes de que un error se propague. Permite automatizar con cabeza —el grueso del trabajo lo ejecuta la IA, las decisiones críticas las valida una persona.
Hay una segunda razón menos citada: la intervención humana es la mejor fuente de datos de mejora. Cada corrección que hace una persona dice qué falló y cómo debía haberse resuelto. Si se registra, alimenta las evals y la siguiente versión del sistema.
Dónde colocar el control humano
La pregunta de diseño es siempre la misma: ¿en qué punto exacto del proceso interviene la persona? Tres criterios lo deciden:
- Coste del error. Cuanto más caro sea equivocarse (dinero, reputación, cumplimiento), más cerca de la acción debe estar la revisión.
- Reversibilidad. Un borrador se corrige; un pago enviado, un contrato firmado o un registro modificado, no. Las acciones irreversibles pasan siempre por una persona.
- Responsabilidad. Hay decisiones que, por normativa o por política interna, tiene que firmar alguien con nombre y apellidos.
Con esos criterios, el control se concentra en pocos puntos y el resto del flujo corre solo.
Patrones habituales
Los diseños human-in-the-loop que se repiten en sistemas en producción:
- Puerta de aprobación. El sistema prepara la acción (un correo, un asiento contable, un cambio en el CRM) y espera. Una persona la aprueba, la edita o la rechaza. Es el patrón de un copiloto.
- Revisión por muestreo. El sistema ejecuta solo y una persona revisa una muestra de los resultados, con más frecuencia al principio y menos cuando la calidad se ha demostrado.
- Escalado por excepción. El sistema resuelve los casos normales y deriva a una persona los que superan un umbral de riesgo, de importe o de incertidumbre (por ejemplo, cuando dos agentes no coinciden en un sistema multiagente).
- Corrección con aprendizaje. La persona corrige la salida y la corrección queda registrada como ejemplo para evaluar y mejorar el sistema.
Un mismo proceso suele combinar varios: escalado por excepción para el día a día, muestreo para vigilar la calidad y puerta de aprobación para las acciones con consecuencias.
Human-in-the-loop frente a human-on-the-loop
| Human-in-the-loop | Human-on-the-loop | |
|---|---|---|
| Cuándo interviene la persona | Antes de la acción: el sistema espera su aprobación | Después: el sistema actúa y la persona supervisa y corrige |
| Adecuado para | Acciones irreversibles, alto coste de error, exigencias regulatorias | Volumen alto, bajo coste de error, acciones reversibles |
| Coste operativo | Mayor: cada intervención consume tiempo de una persona | Menor: la supervisión es por muestreo o por alertas |
| Riesgo | Cuellos de botella si se pone en todos los pasos | Errores que se ejecutan antes de detectarse |
Ninguno es mejor en abstracto. Un sistema maduro empieza con más control dentro del bucle y lo relaja, por etapas y con datos, a medida que demuestra su calidad.
Ejemplos en la empresa
- Clasificación y respuesta a solicitudes a escala. La IA clasifica y redacta; las respuestas de bajo riesgo salen solas y las que implican un compromiso (una reclamación, una devolución, un cambio contractual) las aprueba una persona.
- Revisión documental en procesos regulados. El sistema extrae, contrasta y marca excepciones; el analista decide sobre las excepciones y firma el resultado. Cada decisión queda trazada.
- Mantenimiento e incidencias. La IA diagnostica y propone la orden de trabajo; el responsable la aprueba antes de que se cree en el sistema de mantenimiento.
Qué pide la regulación
El Reglamento europeo de IA (AI Act) exige, para los sistemas de alto riesgo, una supervisión humana efectiva: personas con formación que entiendan las capacidades y límites del sistema, puedan vigilar su funcionamiento, decidir no usar su salida, e intervenir o detenerlo. Human-in-the-loop, junto con la trazabilidad de cada decisión, es la forma más directa de cumplirlo en los puntos críticos —y, fuera del alto riesgo, sigue siendo lo que permite que la organización confíe en el sistema.
Cómo lo abordamos en Codara
Diseñamos cada sistema con la persona en los puntos de decisión que importan dentro de la capa de orquestación agéntica de Codara: automatizamos el trabajo repetible y reservamos la revisión humana para los pasos donde el criterio es clave. El control humano no se añade al final; se diseña en el flujo desde el primer día, con su registro y sus métricas.
Preguntas frecuentes
¿Dónde se coloca el control humano?
En los puntos de decisión que importan: donde el error tiene coste, la acción es irreversible o el caso exige criterio o responsabilidad humana. El resto del proceso puede ejecutarse de forma automática.
¿Frena la automatización?
No. Bien diseñado, automatiza el grueso del trabajo y reserva la intervención humana solo para los pasos críticos, de modo que aporta control y confianza sin renunciar a la eficiencia.
¿Qué diferencia hay entre human-in-the-loop y human-on-the-loop?
En human-in-the-loop la persona interviene dentro del flujo: el sistema no ejecuta la acción hasta que ella aprueba. En human-on-the-loop el sistema actúa solo y la persona supervisa resultados y puede intervenir o corregir después. Se elige según el coste del error y la reversibilidad de la acción.
¿El AI Act exige human-in-the-loop?
El Reglamento europeo de IA exige supervisión humana efectiva para los sistemas de alto riesgo: que personas capacitadas puedan entender el sistema, vigilarlo, decidir no usar su salida e intervenir o detenerlo. Human-in-the-loop es la forma más directa de cumplirlo en los puntos de decisión críticos.