¿Qué es human-in-the-loop (humano en el circuito)?

¿Qué es human-in-the-loop?

Human-in-the-loop significa, literalmente, «humano en el circuito». Es una decisión de diseño: en ciertos puntos del proceso, el sistema de inteligencia artificial se detiene y una persona revisa, aprueba, corrige o rechaza antes de seguir. El resto del trabajo —leer, clasificar, cruzar datos, preparar la propuesta— lo hace la máquina.

No es desconfianza en la tecnología; es gestión de riesgo. Un error al clasificar un correo se corrige fácil. Un pago duplicado a un proveedor, no tanto.

¿Dónde poner a la persona?

La guía de OpenAI sobre agentes propone dos disparadores para la intervención humana:

1. Cuando se superan los límites de fallo: si el agente no logra entender un caso tras varios intentos, escala a una persona.
2. Cuando la acción es de alto riesgo: las acciones sensibles, irreversibles o de alto impacto, como anular pedidos, autorizar reembolsos grandes o hacer pagos, deben tener supervisión humana hasta que crezca la confianza en el agente.

Una forma práctica de decidirlo:

¿Qué dice la ley?

En Ecuador, el artículo 20 de la Ley Orgánica de Protección de Datos Personales (LOPDP) reconoce el derecho a no ser sometido a una decisión basada, única o parcialmente, en valoraciones producto de procesos automatizados —incluida la elaboración de perfiles— que produzca efectos jurídicos o atente contra derechos fundamentales. El titular puede pedir una explicación motivada, presentar observaciones, solicitar los criterios de valoración e impugnar la decisión. La ley prevé excepciones, como el consentimiento explícito o la ejecución de un contrato.

En la Unión Europea, el artículo 14 del Reglamento de Inteligencia Artificial (Reglamento 2024/1689) exige que los sistemas de alto riesgo se diseñen para que personas puedan supervisarlos eficazmente: entender sus límites, no confiar en exceso en sus resultados, decidir no usarlos o revertirlos, e interrumpirlos con un botón de parada.

Un ejemplo en una empresa ecuatoriana

En la cobranza por WhatsApp, un agente puede enviar recordatorios, responder dudas y registrar promesas de pago sin intervención. Pero si un cliente propone un refinanciamiento o un descuento fuera de la política, el agente arma el caso y lo pasa a un ejecutivo, que decide. La persona no revisa cada mensaje: revisa lo que importa. Es el mismo principio con el que trabaja Advise: las decisiones irreversibles pasan por una persona.

¿Qué errores evitar?

• Aprobar por inercia: si la persona aprueba todo sin leer, el control es ficticio. El reglamento europeo llama a esta tendencia sesgo de automatización.
• Revisar todo: si cada caso pasa por una persona, el proceso no gana nada. Hay que elegir bien los puntos de control.
• No registrar: cada aprobación debe quedar con quién, cuándo y por qué, para auditoría.

¿Cómo se relaciona con otros términos?

Es una pieza central del gobierno de la IA y de cualquier agente de IA en producción. También depende de la explicabilidad: quien aprueba necesita entender por qué el sistema propone lo que propone.