Human-in-the-Loop
Una decisión de diseño deliberada que exige que una persona revise o apruebe el resultado de un sistema de IA en uno o más puntos de control antes de que surta efecto.
No se requiere tarjeta
Qué significa en la práctica
Supongamos que configuras un agente de IA para gestionar las solicitudes de reembolso de los clientes. Con human-in-the-loop activado, el agente igual lee la solicitud, revisa el historial de pedidos y redacta una decisión, pero esa decisión queda en una cola hasta que una persona de tu equipo la aprueba realmente antes de que se mueva dinero o se envíe algún correo. Desactiva ese mismo punto de control, y el mismo agente idéntico procesa el reembolso y notifica al cliente por completo por su cuenta, sin ninguna persona en la cadena. El criterio subyacente del agente no cambia entre ambas configuraciones. Lo que cambia es si una persona tiene la oportunidad de detectar un error, un caso límite o una infracción de política antes de que se convierta en una acción real, en lugar de después.
Ejemplo
Un equipo despliega un agente para clasificar tickets de soporte. Configurado con human-in-the-loop, el agente redacta una respuesta y una solución sugerida, y luego espera en una cola de revisión donde un líder de soporte la lee, edita una línea y hace clic en aprobar antes de que llegue al cliente. Configurado para automatización total, el mismo borrador exacto se envía en el momento en que el agente termina de escribirlo, sin que nadie lo lea antes.
No confundir con
vs. Full Automation / Autonomous Agent
Human-in-the-loop y la automatización total no son dos tipos distintos de agente; son dos configuraciones distintas del mismo agente. Human-in-the-loop exige la revisión o aprobación de una persona en un punto de control definido, como un agente que redacta un correo pero una persona que debe hacer clic en enviar, antes de que la acción surta efecto. La automatización total elimina ese punto de control, de modo que el resultado del agente se publica por su cuenta. El modo que esté activo depende de cómo se configure el agente para una tarea determinada, no de una propiedad fija del agente en sí: el mismo agente puede funcionar supervisado para una acción de alto riesgo como emitir un reembolso, y sin supervisión para una de bajo riesgo como redactar una primera respuesta.
Términos relacionados
Frequently asked questions
¿Quieres tu contexto en un solo lugar?
Flaibo guarda tu rol, tu tono y tu trabajo anterior en un solo lugar y los incorpora a los prompts que llevas a la IA que uses, así que un chat nuevo no tiene que empezar desde una ventana de contexto vacía.
Empieza gratis