Glosario de IA Responsibility
¿Qué es human-in-the-loop (humano en el bucle) en IA?
← Todos los términos del glosarioDiseño en el que personas revisan, aprueban o corrigen las salidas de un sistema de IA antes de que tengan efecto, o intervienen cuando el sistema duda.
Explicación
Human-in-the-loop (HITL), o humano en el bucle, es una forma de diseñar sistemas de IA para que una persona revise, apruebe o corrija la salida antes de que tenga efecto. Esa persona puede revisar todas las decisiones, solo las dudosas o de mayor impacto, o una muestra. Es habitual en decisiones delicadas, como crédito, siniestros, selección de personal o apoyo médico, y en agentes que actúan sobre sistemas reales. Además genera correcciones que sirven para mejorar el modelo. El Reglamento Europeo de IA exige que los sistemas de alto riesgo se diseñen para que las personas puedan supervisarlos de forma efectiva.
Dentro, encima o por encima del bucle
- Humano en el bucle (in the loop): una persona aprueba o edita cada salida antes de usarla. Más lento, pero lo más seguro para decisiones de alto impacto.
- Humano sobre el bucle (on the loop): el sistema actúa solo y una persona lo vigila, con capacidad de intervenir o pararlo.
- Humano por encima del bucle (over the loop): las personas fijan reglas, límites y umbrales, y revisan los resultados cada cierto tiempo.
Muchos sistemas reales combinan los tres: los casos rutinarios van solos, la aprobación humana entra cuando la confianza es baja o el importe es alto, y el conjunto se revisa con regularidad.
Dónde hace falta
- Decisiones con efectos legales o importantes para las personas, como crédito, seguros, empleo o acceso a servicios.
- Agentes de IA que pueden enviar mensajes, pagar, cambiar registros o desplegar código.
- Sistemas nuevos en sus primeras semanas en producción, cuando aún no se conoce bien su comportamiento.
- Casos en los que el modelo indica poca confianza o la entrada se sale de lo que se probó.
Que la supervisión sea real
La revisión humana solo funciona si quien revisa puede juzgar de verdad la salida. Eso pide mostrar la evidencia que hay detrás de cada recomendación, una carga de trabajo asumible y que sea fácil rechazar o corregir.
El gran riesgo es el sesgo de automatización: la gente tiende a aceptar lo que propone el sistema, sobre todo con prisa. El Reglamento de IA lo menciona de forma expresa. Mide cuántas veces los revisores cambian la salida; si nunca lo hacen, puede que la revisión no esté sirviendo.
Preguntas frecuentes
¿Qué significa human-in-the-loop?
Significa que una persona forma parte del proceso de decisión de un sistema de IA. El sistema propone y una persona revisa, aprueba o corrige antes de que el resultado se use, o interviene cuando el sistema duda.
¿Qué diferencia hay entre human-in-the-loop y human-on-the-loop?
En human-in-the-loop una persona aprueba las salidas antes de que tengan efecto. En human-on-the-loop el sistema actúa solo mientras una persona lo vigila y puede intervenir o pararlo. Lo segundo es más rápido; lo primero da más control.
¿El Reglamento Europeo de IA obliga a tener un humano en el bucle?
El artículo 14 exige que los sistemas de alto riesgo se diseñen para que personas físicas puedan supervisarlos de forma efectiva mientras se usan. Eso incluye poder entender la salida, ignorarla o revertirla y parar el sistema. No siempre implica aprobar cada salida una a una: las medidas deben ajustarse al riesgo y al contexto.
¿Tener un humano en el bucle lo hace todo más lento?
Puede, si cada salida necesita aprobación. La mayoría de diseños solo envían a personas los casos dudosos, raros o de alto impacto, y dejan pasar los rutinarios. La idea es poner la atención humana donde cambia el resultado.
¿Cómo ayuda el humano en el bucle a mejorar los modelos?
Cada corrección de un revisor es un ejemplo etiquetado de cuál era la respuesta buena. Con el tiempo, esas correcciones sirven para evaluar el sistema, ajustar prompts o reglas y reentrenar o ajustar el modelo.
Guías de decisión que usan este término
- IA agéntica vs chatbots generativos: ¿tu caso de uso necesita un agente o un buen asistente?
- Agentes de IA o RPA: ¿cuál debe automatizar tu proceso y cuándo conviene combinarlos?
- Agentes de voz con IA vs IVR: ¿cuándo debe una conversación sustituir al menú?
- Proveedor o implantador en el Reglamento Europeo de IA: ¿qué papel tienes y qué te toca?
- Humano en el bucle o agentes autónomos: ¿cuánto debe decidir un agente de IA por su cuenta?
- Evals automáticas o revisión humana: ¿cómo garantizas la calidad de la IA en la empresa?
Cómo llevarlo a la práctica
- ¿Cómo responder dudas sobre políticas de RR. HH. con IA?
- ¿Cómo automatizar cuentas a pagar con IA?
- ¿Cómo automatizar la gobernanza de la IA?
- ¿Cómo automatizar el correo con IA?
- ¿Cómo automatizar el onboarding de empleados con IA?
- ¿Cómo automatizar el reporting ESG con IA?
- ¿Cómo automatizar procesos con varios agentes de IA?
- ¿Cómo automatizar el service desk de IT con IA?
- ¿Cómo montar un centro de contacto con IA?
- ¿Cómo detectar fraude con IA?
- ¿Cómo prever la demanda y el inventario con IA?
- ¿Cómo hacer previsiones financieras con IA?
- ¿Cómo modernizar código legacy con IA?
- ¿Cómo vigilar los cambios regulatorios con IA?
- ¿Cómo preparar reuniones comerciales con IA?
- ¿Cómo revisar contratos con IA?
- ¿Cómo clasificar siniestros con IA?
- ¿Cómo usar IA en compras?
Dónde aparece en Thinkia
Para seguir leyendo
Términos relacionados
Fuentes
- Comisión Europea · AI Act Service Desk: artículo 14, supervisión humana (en inglés)
- EUR-Lex · Reglamento (UE) 2024/1689 de inteligencia artificial
- NIST · Artificial Intelligence Risk Management Framework (AI RMF 1.0) (en inglés)
Actualizado: 2026-10-21