Human-in-the-loop
Human-in-the-loop (HITL) — паттерн, где агент останавливается перед значимым действием и ждёт решения человека. Он нужен там, где ошибка необратима: списание денег, публикация, удаление данных, отправка письма клиенту.
Где ставить точку
Заголовок раздела «Где ставить точку»Правило: точка подтверждения ставится перед действием с побочным эффектом, а не перед каждым шагом. Иначе человек превращается в кнопку «да» и перестаёт читать.
| Действие | Нужна точка |
|---|---|
| Поиск, чтение, анализ | Нет |
| Черновик ответа | Нет, если не отправляется |
| Отправка клиенту | Да |
| Изменение данных | Да, если не идемпотентно |
| Финансовая операция | Да, всегда |
| Публикация | Да |
Механика
Заголовок раздела «Механика»sequenceDiagram participant A as Агент participant Q as Очередь participant H as Человек A->>Q: черновик действия + обоснование Q->>H: уведомление H->>Q: подтвердить / изменить / отклонить Q->>A: решение A->>A: выполнить или остановиться
Три технических требования:
- Состояние сохраняется между остановкой и продолжением — иначе после подтверждения работа начнётся заново.
- Решение фиксируется с автором, временем и причиной: это аудит.
- Таймаут — что делать, если человек не ответил: отменить, эскалировать или выполнить безопасную часть.
Что показывать человеку
Заголовок раздела «Что показывать человеку»Подтверждение без контекста бесполезно. В карточке должны быть:
- что агент собирается сделать (конкретно);
- на основании чего (источники, данные);
- что произойдёт при подтверждении;
- можно ли отменить после выполнения.
Если четвёртый пункт — «нет», это усиливает требование к первым трём.
Там, где действие необратимо, нужен план отката. Практика:
- выполнять действие через слой, который умеет компенсировать (черновик вместо отправки, запись в staging вместо production);
- хранить идентификатор операции для отмены;
- при отказе человека не удалять результат, а помечать как отклонённый.
Антипаттерны
Заголовок раздела «Антипаттерны»- Подтверждение после факта. Человеку показывают уже отправленное письмо.
- Слишком много точек. Пять подтверждений на одну задачу — люди начинают подтверждать не читая.
- Нет таймаута. Задача висит вечно, а состояние расходится с реальностью.
- Нет обоснования. Человек не может оценить риск и подтверждает вслепую.
Связь с фреймворками
Заголовок раздела «Связь с фреймворками»Прерывания и чекпойнты — сильная сторона LangGraph: граф сохраняет состояние и продолжает с нужного узла. В декларативных фреймворках HITL чаще реализуется внешней очередью, а не средствами оркестратора.
В разборе 13 есть похожий механизм, но автоматический: агент сам решает эскалировать по ключевым словам. Это не HITL — решение принимает код, а не человек. Настоящий HITL появляется там, где эскалация уходит в очередь к оператору.
Материалы и источники
Заголовок раздела «Материалы и источники»- LangGraph: human-in-the-loop — прерывания и возобновление.