Перейти к содержимому

Human-in-the-loop

Human-in-the-loop (HITL) — паттерн, где агент останавливается перед значимым действием и ждёт решения человека. Он нужен там, где ошибка необратима: списание денег, публикация, удаление данных, отправка письма клиенту.

Правило: точка подтверждения ставится перед действием с побочным эффектом, а не перед каждым шагом. Иначе человек превращается в кнопку «да» и перестаёт читать.

Действие Нужна точка
Поиск, чтение, анализ Нет
Черновик ответа Нет, если не отправляется
Отправка клиенту Да
Изменение данных Да, если не идемпотентно
Финансовая операция Да, всегда
Публикация Да
sequenceDiagram
  participant A as Агент
  participant Q as Очередь
  participant H as Человек
  A->>Q: черновик действия + обоснование
  Q->>H: уведомление
  H->>Q: подтвердить / изменить / отклонить
  Q->>A: решение
  A->>A: выполнить или остановиться

Три технических требования:

  • Состояние сохраняется между остановкой и продолжением — иначе после подтверждения работа начнётся заново.
  • Решение фиксируется с автором, временем и причиной: это аудит.
  • Таймаут — что делать, если человек не ответил: отменить, эскалировать или выполнить безопасную часть.

Подтверждение без контекста бесполезно. В карточке должны быть:

  1. что агент собирается сделать (конкретно);
  2. на основании чего (источники, данные);
  3. что произойдёт при подтверждении;
  4. можно ли отменить после выполнения.

Если четвёртый пункт — «нет», это усиливает требование к первым трём.

Там, где действие необратимо, нужен план отката. Практика:

  • выполнять действие через слой, который умеет компенсировать (черновик вместо отправки, запись в staging вместо production);
  • хранить идентификатор операции для отмены;
  • при отказе человека не удалять результат, а помечать как отклонённый.
  • Подтверждение после факта. Человеку показывают уже отправленное письмо.
  • Слишком много точек. Пять подтверждений на одну задачу — люди начинают подтверждать не читая.
  • Нет таймаута. Задача висит вечно, а состояние расходится с реальностью.
  • Нет обоснования. Человек не может оценить риск и подтверждает вслепую.

Прерывания и чекпойнты — сильная сторона LangGraph: граф сохраняет состояние и продолжает с нужного узла. В декларативных фреймворках HITL чаще реализуется внешней очередью, а не средствами оркестратора.

В разборе 13 есть похожий механизм, но автоматический: агент сам решает эскалировать по ключевым словам. Это не HITL — решение принимает код, а не человек. Настоящий HITL появляется там, где эскалация уходит в очередь к оператору.